LASSIC Media らしくメディア

同じ生成AIに、同じ指示を出しているのに、あるときは堅実な答えが、あるときは妙に脱線した答えが返ってくる——。生成AIを業務で使っていると、こうした「答えのブレ」に戸惑う場面があります。プロンプト（指示文）を工夫しても、いま一つ安定しない。その鍵を握るのが、「生成パラメータ」と呼ばれる設定です。なかでも代表的な「temperature（温度）」や「top-p」を知っておくと、出力の調子を意図した方向へ寄せやすくなります。

名前は専門的ですが、役割そのものは「出力の調子を決めるつまみ」と捉えれば難しくありません。本記事では、生成AIの業務活用を進める情報システム部門や事業部門の担当者に向けて、生成パラメータとは何か、temperatureやtop-pがそれぞれ何を変えるのか、プロンプトや学習時の設定とどう違うのか、そして外注の勘所を整理します。

生成パラメータとは——出力の「調子」を決めるつまみ

生成パラメータとは、生成AIが答えを作るときの「振る舞い」を調整するための設定を指します。プロンプトが「何を頼むか」という中身だとすれば、生成パラメータは「どんな調子で答えさせるか」を決めるつまみにあたります。同じ指示でも、このつまみの設定しだいで、堅実で落ち着いた答えにもなれば、多様で大胆な答えにもなる、というわけです。

身近なたとえでいえば、料理の火加減に近いかもしれません。材料と手順（プロンプト）が同じでも、火を強めるか弱めるかで仕上がりが変わります。生成パラメータも、これと似た役割を担うものです。多くの生成AIのサービスでは、こうしたつまみをいくつか調整できるようになっており、代表的なものが、次に見ていく「temperature」や「top-p」です。業務で安定した使い方をしたいなら、プロンプトの工夫とあわせて、このつまみの理解も欠かせません。

temperature（温度）が変えるもの

生成パラメータのなかでも、まず押さえておきたいのがtemperature（温度）です。これは、答えの「ランダム性」や「多様性」の強さを左右するつまみと考えるとよいでしょう。全体像を図にまとめました。

temperatureを低くすると、生成AIは無難で確度の高い言葉を選びやすくなります。同じ問いに対して似た答えを返しやすく、再現性が高まるのが特徴です。事実を淡々と述べたい、決まった形式で出力したいといった場面に向きます。逆に、temperatureを高くすると、あまり選ばれないような言葉も候補に入りやすくなり、答えは多様で大胆になります。発想を広げたいときには持ち味を発揮しますが、そのぶん脱線したり、事実から離れたりする傾向も強まるため、注意が必要です。どちらが良い・悪いという話ではなく、用途に合わせて調整するものだと捉えてください。なお、temperatureをいちばん低い値にしても、出力が一字一句まで毎回そろうとはかぎらない点も、頭の隅に置いておくとよいでしょう。

top-p・出力の長さなど、そのほかのつまみ

生成パラメータは、temperatureだけではありません。実務でよく登場するものを整理しました。

top-p（およびtop-k）は、次に選ぶ言葉の候補を「どこまで許すか」を絞るつまみです。確率の高い候補だけに絞れば、答えは堅実に寄り、幅広く許せば多様になります。temperatureと役割が重なる面があるため、どちらか一方を主に動かすことが多いようです。出力の長さ（トークン数）の設定は、答えをどこまで長くできるかを決めるものです。ここでいうトークンは、生成AIが文章を数える単位のことで、この上限は出力の長さだけでなく費用にも関わってきます。このほか、特定の語が出たら生成を止める「停止語」や、同じ表現の繰り返しを抑える「ペナルティ」といったつまみもあります。すべてを一度に使いこなす必要はなく、まずはtemperatureと出力の長さから押さえるのが現実的です。

プロンプト・学習時の設定との違い

生成パラメータは、よく似た言葉と混同されがちです。とくに「プロンプト」や「学習時のハイパーパラメータ」との違いを整理しておくと、理解がはっきりします。

まず、プロンプトの設計との違いです。プロンプトは「何を、どう頼むか」という指示の中身そのものを指します。一方、生成パラメータは「その指示に、どんな調子で答えるか」を決めるつまみです。同じ指示でも、つまみの設定で仕上がりが変わる——両者は補い合う関係にあり、どちらか一方だけでは出力を思うように整えきれません。次に、学習時の「ハイパーパラメータ」との違いです。こちらは、モデルを作る（学習させる）段階で職人が調整する設定で、いわばモデルそのものの土台に関わります。対して生成パラメータは、でき上がったモデルを使って答えを生成する（推論する）段階で働くつまみです。同じ「パラメータ」でも、手を入れる場所とタイミングがまるで違う、と押さえておくと混乱しません。

用途に応じた設定の考え方

では、実際にどう設定すればよいのでしょうか。厳密な正解があるわけではありませんが、用途に照らした考え方の目安はあります。踏まえておくと、迷いが減ります。

事実を正確に扱いたい業務では、temperatureやtop-pを低めにするのが基本です。問い合わせへの定型的な回答、文書の要約、データの分類といった場面では、ブレの少なさや再現性が重んじられます。堅実な設定にしておくと、扱いやすさが増すでしょう。反対に、キャッチコピーの案出しや、企画のたたき台づくりのように、幅広い発想がほしい場面では、temperatureをやや高めにして多様な出力を引き出す手があります。とはいえ、高くしすぎると収拾がつかなくなることもあるため、少しずつ動かして具合を見るのが賢明です。大切なのは、「この用途では何を優先するのか」をはっきりさせることです。正確さなのか、幅広さなのか——そこが定まれば、つまみの向きはおのずと決まります。設定を変えたら、実際の出力を見比べて調整する、という地道な確認も欠かせません。

外注時に確認しておきたい点

生成AIの業務活用を外部に委託する場合は、生成パラメータについて次の点をすり合わせておくと、認識のずれを防ぎやすくなります。まず、用途ごとにどんな設定を想定しているかです。事実重視の処理と、発想重視の処理とでは、向く設定が異なります。どの業務にどの方針で臨むのかを、あらかじめ共有しておきたいところです。ここが曖昧なままだと、「思ったより答えがブレる」「毎回言うことが違う」といった不満につながりかねません。

次に、設定の調整と検証をどう進めるかです。パラメータは一度決めて終わりではなく、実際の出力を見ながら整えていきます。どのように試し、何をもって「良い設定」と判断するのか——その進め方まで含めて設計してもらえると、運用が安定するはずです。あわせて、パラメータだけでは解決しない点も押さえておきましょう。temperatureを下げても、もっともらしく誤るハルシネーションがなくなるわけではありません。出典を確かめる仕組みや人の確認と組み合わせる前提で、任せる範囲を決めておくと、あとのつまずきを抑えやすくなるでしょう。

まとめ：生成パラメータで押さえる3つの視点

生成パラメータは、生成AIの出力の調子を整えるうえで欠かせないつまみです。押さえておきたい視点は3つに整理できます。第一に、生成パラメータは「どんな調子で答えるか」を決めるつまみであり、「何を頼むか」のプロンプトや、モデルを作る段階のハイパーパラメータとは、手を入れる場所が違うこと。第二に、temperatureは答えのランダム性を左右し、低いほど堅実で再現性が高く、高いほど多様で大胆になること。第三に、事実重視なら低め、発想重視なら高め、と用途で使い分け、実際の出力を見ながら調整することです。この3点を踏まえておけば、「答えがブレる」という戸惑いに振り回されにくくなります。用途ごとの設計や検証に不安があれば、外部の手を借りるのも一つの選択肢です。

よくある質問

著者：テレリモ総研編集部　鈴木 亮佑

ご不明な点はお問い合わせフォームからもご連絡いただけます。

1. *1　参考：Amazon Web Services「Inference request parameters and response fields for foundation models」（https://docs.aws.amazon.com/bedrock/latest/userguide/inference-parameters.html）。temperatureやtop-pなど生成パラメータの一般的な解説の参考として。

Tweet