Greedy Search / Beam Search / Top-K Sampling / Top-p (Nucleus) Sampling などの手法を使って確率的に次のトークンを決めています（デコードしている）。