LASSIC Media らしくメディア

監修・編集責任者：牛尾 昭昌（株式会社LASSIC 執行役員）

社内の規程やマニュアルを、生成AIに聞けば答えてくれるようにしたい。でも、見せてはいけない文書まで答えに混ざらないかが心配だ——。社内文書検索を任された担当者がつまずきやすい点です。Azure OpenAIで作る社内文書検索は、Azureの検索サービスで社内の文書から関係する部分を探し、その部分を根拠にAzure OpenAIのモデルが答える仕組みです。RAG（検索拡張生成）と呼ばれる形です。

仕組みは単純ですが、取り込み方と権限の扱いで手間が大きく変わります。ただし万能ではなく、文書が古ければ答えも古くなります。本記事では、情報システムや開発の責任者に向けて、Microsoft Learnの公式ドキュメントで確かめた範囲で、文書の取り込み、権限に合わせた検索、回答の根拠の示し方、評価と運用、そして外部に頼むときに確認したい点を整理します。

Azure OpenAIの社内文書検索とは

Azure OpenAIのモデルは社内の文書を知りません。社内文書検索では、Azure AI Searchという検索サービスに文書を登録し、質問のたびに関係する部分を探してモデルに渡します。

以前はAzure OpenAIの「On Your Data」という機能を使えば、検索とのつなぎ込みを設定だけで済ませられました。この機能は2026年10月14日に提供を終えています。^*2 これからは、Azure AI Searchの検索結果をアプリで受け取り、モデルに答えさせる形で作ります。方式は次の2つです。

新しく作る場合、Microsoftはエージェント型から始めるよう勧めています。どちらの方式でも、社内文書検索を作る手順は次の5つの工程に分けられます。

文書の取り込みと更新

まず、対象にする文書の保存場所を決めます。Azure AI Searchのインデクサー（保存場所から文書を定期的に読み込む仕組み）は、Azureの10を超えるデータの置き場所から文書を取り込めます。^*1 社内の文書がSharePointにある場合は、取り込み方を次の2つから選びます。

• SharePointのインデクサー（プレビュー）：文書を検索の索引に写し、新しい文書や変わった文書だけを取り込み直します。プライベートエンドポイント（社内のネットワークに置く専用の入口）には対応せず、条件付きアクセスを有効にしたテナントでは使えません。フォルダーの名前を変えると、別の文書として取り込み直されます^*3
• SharePointを直接検索する方式（プレビュー）：索引を作らず、質問のたびにSharePointを検索します。使う人ごとにMicrosoft 365 Copilotのライセンスか従量課金の設定が要り、対象はSharePointのサイトだけでOneDriveは含みません。1回の検索で返る結果は多くて25件です^*4

取り込んだ文書は検索しやすい大きさに分けます。Microsoftは、固定の長さで分ける場合、512トークン（モデルが文字を数える単位）から始め、前後の重なりを25%にすることを勧めています。^*5

更新の間隔も、この段階で決めます。インデクサーは5分から24時間までの間隔で定期的に動かせます。^*6 規程の改定をすぐ答えに反映したい業務なら間隔を短くし、取り込みの失敗を確かめる担当も決めます。分割の大きさや検索結果の並べ替えの改善はRAGの精度改善を外注するで扱っています。

権限に合わせた検索

社内文書検索でいちばん気を付けたいのは、利用者が見てはいけない文書を答えの根拠にしないことです。Azure AI Searchは、文書ごとに見てよい人を絞る方法を4つ用意しています。^*7

セキュリティフィルターは、識別子を文字列として照らし合わせるだけで、それ自体に認証の働きはありません。すべての検索でフィルターをかけ、識別子を結果に表示しない設定だけに頼らないことが大切です。^*8

On Your Dataからの移行の手引きも、続けて聞かれた質問を含むすべての要求で、利用者ごとの権限をアプリの側で確かめるよう求めています。^*2 方法は、文書の置き場所と社内の認証の仕組みから選びます。

回答の根拠と評価・運用

根拠を示せば、利用者は元の文書で答えを確かめられます。エージェント型の検索では、検索の結果に、答えのもとになった文書の一覧（references）と、どんな検索をしたかの記録（activity）が含まれます。^*9 従来型なら、出典に示す文書の名前と保存場所を取り込みの段階で索引に入れておきます。

評価では、検索の段階と回答の段階を分けて測ります。Microsoft Foundryには、RAGの評価に使う次のような評価の仕組みが用意されています。^*10

移行の手引きは、答えられる質問、文書に答えがない質問、権限がなく答えてはいけない質問の3種類を、自社の文書で試すよう挙げています。^*2 この3種類の質問の一覧を残し、文書や設定を変えるたびに測り直すと、質の低下に気付けます。評価の指標の決め方はRAG・LLMの精度評価にまとめています。

外部に頼むときに確認しておきたい点

社内文書検索を外部に頼むときは、取り込み方と権限の設計に手間がかかります。導入そのものの手順はAzure OpenAI導入支援の手順で整理しています。見積もり前に次の点を確かめます。

• 範囲：文書の取り込み、分割と更新、権限に合わせた検索、根拠の示し方、評価のうち、どこまで任せるか
• 期間：試しに使う文書の範囲と期間、本番の業務に広げるかを判断する時期
• 体制：文書の持ち主や見てよい人を決める社内の担当者と、外部の担当者が一緒に決める事項
• 費用の決まり方：作業の範囲で決まる一括の見積もりか、期間で決まる支援か。Azureの利用料とは分けて見るか
• 引き継ぎ：取り込みの設定、権限の方法を選んだ理由、評価に使う質問の一覧を文書に残し、社内で測り直せる状態にするか

プレビューの機能はサービスレベル保証の対象外で、本番利用は勧められていません。使うなら一般提供までの扱いを確かめます。全体の進め方は社内文書検索AI導入を委託する進め方で扱っています。

まとめ：社内文書検索で確かめておきたい3つの点

Azure OpenAIで社内文書検索を作るうえで、確かめておきたい点は3つに整理できます。第一に、保存場所ごとの取り込み方と更新の間隔を先に決めること。第二に、置き場所に合わせて権限の絞り込み方を選ぶこと。第三に、評価の質問の一覧で変更のたびに測り直すことです。この3点を踏まえておけば、「見せてはいけない文書まで答えに出てしまった」という事態を避けやすくなります。設計や移行に迷いがあれば、外部の手を借りるのも一つの選択肢です。

よくある質問

出典

1. *1　参考：Microsoft Learn「Retrieval-augmented generation (RAG) in Azure AI Search」（https://learn.microsoft.com/en-us/azure/search/retrieval-augmented-generation-overview）。出典：RAGで難しくなる5つの点、従来型とエージェント型の違いと選び方、インデクサーが取り込める置き場所の数、言語への対応を参照（2026-10-24確認）（2026年10月確認）
2. *2　参考：Microsoft Learn「Azure OpenAI On Your Data (classic)」（https://learn.microsoft.com/en-us/azure/foundry-classic/openai/concepts/use-your-data）。出典：2026年10月14日の提供終了、移行が自動ではないこと、索引の再利用、利用者ごとの権限の確認、移行の確認項目を参照（2026-10-24確認）（2026年10月確認）
3. *3　参考：Microsoft Learn「Index content from SharePoint in Microsoft 365 (preview)」（https://learn.microsoft.com/en-us/azure/search/search-how-to-index-sharepoint-online）。出典：差分の取り込み、削除の検出、プライベートエンドポイントと条件付きアクセスの制約、フォルダー名の変更の扱いを参照（2026-10-24確認）（2026年10月確認）
4. *4　参考：Microsoft Learn「Create a remote SharePoint knowledge source (preview)」（https://learn.microsoft.com/en-us/azure/search/agentic-knowledge-source-how-to-sharepoint-remote）。出典：利用者ごとのライセンスか従量課金の条件、対象がSharePointのサイトだけであること、結果の上限を参照（2026-10-24確認）（2026年10月確認）
5. *5　参考：Microsoft Learn「Chunk large documents for agentic retrieval and RAG」（https://learn.microsoft.com/en-us/azure/search/vector-search-how-to-chunk-documents）。出典：分割の大きさと重なりの推奨値を参照（2026-10-24確認）（2026年10月確認）
6. *6　参考：Microsoft Learn「Schedule an indexer in Azure AI Search」（https://learn.microsoft.com/en-us/azure/search/search-howto-schedule-indexers）。出典：インデクサーの実行の間隔の下限と上限を参照（2026-10-24確認）（2026年10月確認）
7. *7　参考：Microsoft Learn「Document-level access control in Azure AI Search」（https://learn.microsoft.com/en-us/azure/search/search-document-level-access-overview）。出典：文書ごとに権限を絞る4つの方法と選び方、プレビューの機能の扱いを参照（2026-10-24確認）（2026年10月確認）
8. *8　参考：Microsoft Learn「Security filters for trimming results in Azure AI Search」（https://learn.microsoft.com/en-us/azure/search/search-security-trimming-for-azure-search）。出典：識別子が認証を伴わない文字列であること、すべての検索にフィルターをかけること、結果に表示しない設定だけに頼らないことを参照（2026-10-24確認）（2026年10月確認）
9. *9　参考：Microsoft Learn「Retrieve data using a knowledge base in Azure AI Search」（https://learn.microsoft.com/en-us/azure/search/agentic-retrieval-how-to-retrieve）。出典：検索の結果に含まれる参照の一覧と検索の記録を参照（2026-10-24確認）（2026年10月確認）
10. *10　参考：Microsoft Learn「Retrieval-Augmented Generation (RAG) evaluators」（https://learn.microsoft.com/en-us/azure/foundry/concepts/evaluation-evaluators/rag-evaluators）。出典：RAGの評価の仕組みと、それぞれが測ることを参照（2026-10-24確認）（2026年10月確認）

Tweet