LASSIC Media らしくメディア

監修・編集責任者：牛尾 昭昌（株式会社LASSIC 執行役員）

試しに使ってみた生成AIの仕組みが、社内で評判になった。いざ本番運用に移そうとすると、どこまでの品質なら出してよいのか、誰が見張り続けるのかが決まっていない——。生成AIの本番運用における外部人材活用とは、業務やサービスで使い続けるときに、品質の基準づくり、テスト、稼働後の監視といった作業の一部を社外の専門人材に担ってもらうことを指します。

任せられる相手がいれば、社内に詳しい人が少なくても本番運用へ進めやすくなります。ただし、使い道や合格の基準まで任せると、出来上がったものが自社の業務に合うかを社内で判断できなくなります。本記事では、開発の現場を預かるマネージャーに向けて、社内で決めることと任せる作業、期待品質、テスト、稼働後に見る数字、モデルの更新と費用への備えを整理します。

試しの段階と本番運用の違い

試しの段階では、うまく答えた例をいくつか見て「使えそうだ」と判断できます。本番運用では、同じ問いにいつも同じ水準で答えること、想定していない問いでも崩れないこと、使う人が増えても応答が遅くならないことが求められます。生成AIは同じ入力でも毎回同じ答えを返すとは限らないので、この差は通常のシステムより大きく出ます。

手がかりになるのが、デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」です。2024年5月29日に初版が決まり、5月30日と6月10日に誤記等の軽微な修正が入った文書で、政府情報システムを対象に、テキスト生成AIに固有と見られるリスクとその軽減策を示しています。^*1 国の機関向けの参考資料なので民間企業に守る義務はありませんが、対策は具体的です。なお、案内ページは、内容を今後「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」へ統合し、その枠組みの中で更新するとしています。^*2

ガイドブックは、新サービス企画時、予算要求前、調達実施前、設計・開発時、サービス実施時の5つの段階に分けてリスクを並べています。使い方としては、チャットでの対話、大量の文章のバッチ処理、検索エンジンの補助、自然な文章からダッシュボードやソースコードを作る機能の4つを想定しています。

社内で決めることと任せる作業

ガイドブックが想定する読者は、目的の用途に向けたサービスを開発する「サービス開発者」と、そのサービスを運用する「サービス提供者」です。どちらも、その役割を「実施もしくは委託する」立場として書かれています。^*1 開発も運用も、社外に頼むことは初めから想定されているわけです。

それでも社内に残したいのは、生成AIを使ってよい業務かどうかの判断です。ガイドブックは適切でない例として、期待する品質が高すぎる場合、本来人間が行うべき仕事の場合、特定の資格が要ると法令で定められた作業の場合、生成AIの知識に無いことを答えさせる場合、構築と運用の費用が効果に見合わない場合、AI事業者ガイドラインの「共通指針」に反する場合の6つを挙げています。^*1 どれも業務の中身を知らないと判断できません。

試しの検討も、ある程度までは社内でできます。ガイドブックは、プロンプトを変えるだけで多様な用途に対応できるので、AIの専門家でなくても何ができそうかを事業者に頼らずに検討できるとしています。一部のモデルでしか検討できないと特定の事業者に縛られやすくなるため、職員が複数のモデルを試せる状態が望ましいとも書いています。

本番の前に決める期待品質

ガイドブックは、調達を始める前に、生成AIの出力にどこまでの品質を期待するかを明確にするよう求めています。チャットの例では、ごみの出し方の案内であれば、ごみの種類や捨て方ごとに10種類、まったく関係ない質問を100種類作り、その質問の99%以上で妥当な回答を返すことを要件に入れる、という形を示しています。^*1

この基準が現実的かどうかは問題の難しさで変わるので、社内だけで決め切るのは難しいところです。ガイドブックは、委託して開発する場合、要件を作るときに複数の事業者に相談することを勧めています。返ってきた現実的な品質の水準が受け入れにくいなら、まだ技術が追いついていないとみなし、中止も考えに入れるよう求めています。^*1 外部人材の知見を借りる場面として、最初に来るのがここです。

バッチ処理で使う場合は、誤りの種類を分けます。書類審査の例では、不合格にすべき書類を合格にする誤りと、合格の書類を不合格にする誤りに分け、それぞれどこまで許せるかを決めます。前者が許せないなら、生成AIが合格とした書類は人が審査し直す組み方になります。どちらの誤りが重いかは業務によって違うので、ここは社内で決めることです。

検索の補助なら再現率と適合率を受け入れの基準にでき、応答時間の目標も別に要ります。自然な文章から集計を出す機能なら、問いと人が出した正解の数字の組を用意し、正答の割合で基準を作れます。

テストの回し方

ガイドブックは品質の評価について、生成結果がばらつくこと、品質の評価そのものが難しいこと、テストの問いの網羅が足りなくなることの3つのリスクを挙げています。^*1 ばらつきへの対策には、関わるパラメータの調整、出力の形式の指定、同じ入力で何回かテストすること、同じ入力には保存しておいた出力を返す仕組みが並んでいます。

評価の難しさへの対策は、観点を分けることです。検索した文章をもとに答えさせる仕組みなら、適切な文章を拾えているか、出力が拾った文章に書かれた内容か、最終的な出力が形式どおりか、と分けて見ます。複数の人が別々に評価して結果を合わせるやり方も挙がっていますが、全員が同じ種類の偏りを持っていればリスクは減らず、人件費と期間ははっきり増えるとしています。^*1 社内の担当者だけでは偏りがそろいやすいので、社外の専門人材を評価者に加える意味はここにあります。

テストの問いを増やすには、過去に実際にあった問い合わせとその回答をそのまま使うのが安上がりです。そのうえでガイドブックは、品質を保つ最も確かな手段は、テストしていないケースでは生成AIの出力を使わないことだとしています。^*1

稼働後に見る数字

サービスを始めた後は、予算を取るときに決めたKPI（重要業績評価指標）を測ります。ガイドブックは、バッチ処理なら同時に受けるリクエストの上限、リクエストの成功率、目標の処理時間といった指標を監視するとしています。検索の補助なら、生成AIを入れた場合と入れない場合を比べるA/Bテストを積極的に行うよう勧めています。

チャットで使う場合は、利用者の入力文の扱いに注意が要ります。ガイドブックは、利用規約などに書いてあっても、入力文を管理者が実績データとして確認すること自体がプライバシーの侵害とみなされるリスクがあるとしています。^*1 誰がどの範囲で入力文を見るかは、運用を社外に頼むならなおさら、先に社内で決めて契約にも書いておきたいところです。

実際の入力がテストの問いに無ければ、それを加えて評価し直します。ガイドブックは、使われ方が当初の想定から外れることと、使っている大規模言語モデルが変わることの2つで要件を満たさなくなるリスクがあり、その場合は直すだけでなく、サービスの停止や終了も考えに入れるべきだとしています。^*1 監視を外部人材に任せるなら、異常に気づいたときに誰へ知らせ、誰が止めるかを決めておきます。

モデルの更新と乗り換えへの備え

クラウドのWeb API（外部から呼び出す窓口）で大規模言語モデルを使う場合、ガイドブックは、日々の更新やEOL（保守終了）によって、自分たちで十分にテストできていないモデルを使わざるを得なくなるケースがあると注意しています。^*1 保守終了の前に移行先の候補で十分な性能が出るかを確かめておけば、影響を前もって見積もれます。実際のプロンプトを入れる内部のテストと、新しいモデルを段階的に出して比べるA/Bテストが挙がっています。

別のクラウドの窓口に切り替えるときに要る対応として、ガイドブックは次の3つを挙げています。^*1

この手間が極めて大きいと、特定の事業者から離れられなくなるリスクが増すとしています。違いを吸収する開発用の枠組みを入れると今度はその枠組みに縛られるため、早すぎる最適化をしないよう慎重に検討するよう勧めています。外部人材に作ってもらう場合も、プロンプトとテストの問い、評価の結果は自社の手元に残してもらうと、モデルを替えるときに同じテストを当てられます。

費用の見張り方

Web APIで使う場合、多くは入力の量と出力の量のそれぞれに比例して料金がかかります。ガイドブックは、リクエストの数だけでなく中身や出力にも費用が左右されるため予測が難しく、見積もりの誤りによる予算超過や利用停止のリスクが起こりうるとしています。^*1

対策には、事前のテストの結果から入出力の量を悲観的に見積もること、出力の量の上限をパラメータで決め、入力の文字数を制限する仕組みを手前に置いて1回あたりの費用を抑えることが挙がっています。動いている仕組みがあれば、実績をもとに定額の契約から従量の契約へ見直せないかも検討するとしています。生成AIを組み込んだ既製のサービスでは、異動や退職に合わせたアカウントの管理の手間が無視できないほど大きく、社内のシングルサインオンにつなげれば大きく減らせるとしています。

外部に委託するときに確認しておきたい点

生成AIの本番運用に外部人材の力を借りる前に、社内で用意しておきたいものは3つです。使い道と許せる誤りの種類、合格の基準を書いたもの、テストの問いの元になる過去の問い合わせや業務の記録です。これがあれば、頼みたいのが評価の仕組みづくりか、稼働後の監視か、モデルの乗り換えかがはっきりし、参画してもらう人を選びやすくなります。異常のときに誰が止めるか、入力文を誰がどこまで見るかも、参画の前に伝えておきます。

導入の段階で専門家の支援がどう役立ったかは外部人材活用で進める生成AIの導入、社内と専門家の役割の違いで扱っています。

生成AIの仕事を頼むときの手順は外部人材活用で生成AIの仕事を頼むときに行う5つのことにまとめました。

生成AIに限らない試験導入からの移り方は外部人材活用のPoC（概念検証）を本番化するときの課題と体制で整理しています。

まとめ：本番運用で確かめておきたい3つの点

生成AIを本番運用に乗せるうえで、確かめておきたい点は3つに整理できます。第一に、生成AIを使ってよい業務かどうかと、テストの問いと合格の基準を社内で決めておくこと。第二に、テストの準備と評価、稼働後の監視は外部人材の力を借りつつ、止める・直すの判断は社内に残すこと。第三に、モデルの更新や保守終了に備え、プロンプトとテストの問い、評価の結果を自社の手元に残すことです。この3点を踏まえておけば、「評判のよかった試作をそのまま出したら、想定外の問いで崩れた」という事態を避けやすくなります。任せたい作業に合う人の探し方に迷いがあれば、外部の手を借りるのも一つの選択肢です。

よくある質問

出典

1. *1　参考：デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」（2024年6月10日、PDF）（https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/c1959599-efad-472e-a640-97ae67617219/fe843dc6/20240610_resources_generalitve-ai-guidebook_01.pdf）。出典：改定履歴、1.1（目的とスコープ・表1）、1.2、1.3、2.1、2.3、3.1 3)・4)、4.1〜4.4、5.2、6.1〜6.3、付録7.2 4)・5)・7.2.6を参照（確認日2026年10月2日）（2026年10月確認）
2. *2　参考：デジタル庁「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」（案内ページ）（https://www.digital.go.jp/resources/generalitve-ai-guidebook）。出典：最終更新日2025年6月6日。生成AIの調達・利活用に係るガイドラインへの統合についての記載を参照（確認日2026年10月2日）（2026年10月確認）

Tweet