社内文書を使うAI。導入前に整理しておきたい確認事項

01RAGは「探す」と「答える」を組み合わせる

Difyの公式ドキュメントでは、知識ベースから関連情報を検索し、その情報と利用者の質問をモデルへ渡し、回答を生成するRAGの流れが説明されています。モデルがもともと知っていることに加え、自社の情報を回答の材料にする仕組みです。^{出典 ↗}

ただし、資料が見つからない、古い資料を参照する、正しい箇所を見つけても結論を誤る、といった場面は分けて考える必要があります。AImeviaでは「検索が合っているか」と「回答が正しいか」を別々にテストすることを提案します。

02誰に見せてよい資料かを先に決める

社内規程と、役員限定資料や人事情報を同じ扱いにしないことが出発点です。資料の所有部署、対象読者、更新担当、機密区分を整理し、AI経由でも元のアクセス範囲を越えて情報が出ないかを確認します。

OpenAIは、業務アプリとの連携で既存の権限を尊重し、各利用者が接続アプリで認証することを説明しています。ただし、すべての製品・すべての連携方式で同じ仕様とは限りません。検討するサービスと接続方法ごとに確かめてください。^{出典 ↗}

「社内データ対応」で確認する6つのこと

03学習利用・保存・処理・外部送信を分ける

「学習に使わない」は、保存期間や保存国の回答ではありません。また、Difyを自社環境に配置しても、外部のモデルAPIへ情報を送る構成なら、その送信先の条件を別に確かめる必要があります。Difyには複数の展開方式があり、接続するモデルも含めた設計が重要です。^{出典 ↗出典 ↗}

比較メモには、文書の保管場所、モデルの処理先、会話ログ、バックアップ、削除手順を別々に記載しましょう。「国内対応」という一語だけでは、自社が求める条件を満たすか判断できないことがあります。

04よくある質問と、答えてはいけない質問で試す

まず、正しい回答と参照文書を用意できる質問を集めます。その後、資料に答えがない質問、古い制度の質問、権限外の内容を求める質問も入れます。Difyには、知識ベースの検索をテスト・検証する機能が案内されています。^{出典 ↗}

回答できないときに、もっともらしく断言せず、確認先へ案内できるかも評価対象にするのがAImeviaの提案です。実際の機密データを投入する前に、検証用データと権限を準備し、社内の管理担当と確認してください。