RAG
RAG(検索拡張生成)とは。仕組みと、社内の会議データで使うときの注意点
RAGは、AIが答える前に社内の文書や記録を検索し、見つかった内容を根拠に回答を作る仕組みです。仕組みを5つの段階で説明し、ファインチューニングとの違い、会議の文字起こしに質問するときに起きる失敗と対策を、具体例で整理します。
更新日:執筆・運営:Klang AI AB
RAGの仕組み:5つの段階
「過去の会議の記録に質問する」場面を例に、RAGの流れを順に追います。
実際のシステムでは、検索の前に文書を短い単位(チャンク)に分け、意味の近さで探せるように数値の形(埋め込みベクトル)に変換して保存しておくのが一般的です。質問が来ると、質問も同じ形に変換し、意味の近いチャンクを取り出します。キーワード検索と組み合わせる方式もよく使われます。
ポイントは、言語モデルが「覚えていること」ではなく「その場で渡された資料」をもとに答える点です。社内の資料はモデルの学習データに含まれていないため、RAGのような仕組みがないと、言語モデルは社内の事情について答えられません。
ステップ1
質問
「A社との価格交渉で、先方が最後に出した条件は?」
ステップ2
検索
会議の文字起こしから、A社・価格・条件に関わる発言の部分を探す
ステップ3
渡す
見つかった発言の部分を、質問と一緒に言語モデルへ渡す
ステップ4
生成
渡された発言だけを根拠に、回答の文章を作る
ステップ5
確認
回答と一緒に示された元の発言を開き、日付と発言者を確かめる
RAGとファインチューニングの違い
社内データをAIに使わせる方法として、よく比べられるのがファインチューニング(追加学習)です。
社内の事実を答えさせる目的なら、まずRAGの方式を検討するのが一般的です。特に「削除の扱い」は、個人情報や顧客情報を含むデータでは重要です。学習に使われたデータは、後から取り除くことが難しくなります。
| 観点 | RAG | ファインチューニング |
|---|---|---|
| 仕組み | 回答のたびに資料を検索して渡す | モデル自体を社内データで追加学習させる |
| 情報の更新 | 資料を追加・削除すればすぐに反映 | 反映には再学習が必要 |
| 根拠の提示 | 参照した資料を示しやすい | 回答の根拠を示しにくい |
| 向いている用途 | 社内の事実や経緯を調べる | 文体や形式、専門的な言い回しを覚えさせる |
| 削除の扱い | 元の資料を消せば参照されなくなる | 学習済みの内容を後から取り除くのは難しい |
会議の文字起こしにRAGを使うときの難しさ
会議の記録は、整った文書よりもRAGが苦手とする特徴を多く持っています。質問する側が知っておくと、誤った回答に気づきやすくなります。
話し言葉で、主語が省かれる
「それでいきましょう」の「それ」が何かは、前後の発言を読まないと分かりません。短く切り出すと意味が失われます。
発言者の取り違え
誰の発言かを取り違えると、「先方が提案した」と「自社が提案した」が逆になります。話者の識別の精度が回答の正しさに直結します。
古い決定が残っている
3月の会議で決めたことが、5月の会議で変わっていることがあります。両方が検索されると、古いほうを根拠に答えることがあります。
提案と決定の区別
「〜はどうでしょう」という提案と、合意した決定は、文字だけでは区別しにくいことがあります。
文字起こしの誤り
固有名詞や数字の聞き間違いがあると、検索で見つからない、または誤った数字で答えることになります。
会議データに質問するときのコツ
仕組みの側だけでなく、質問する側の工夫でも精度は変わります。
- 期間と相手を指定する。「A社との9月以降の会議で」のように範囲を絞ると、古い決定を拾いにくくなります。
- 「最新の決定」を明示して聞く。変更があったかどうかも一緒に聞きます。
- 根拠の発言と日付を出させる。回答だけでなく、どの会議のどの発言かを確認します。
- 重要な数字は元の録音で確かめる。文字起こしの聞き間違いがあり得るためです。
- 用語集を整える。社内の略語や製品名を登録しておくと、文字起こしと検索の両方で取りこぼしが減ります。
KlangのAIチャットとRAGの関係
Klangを例に、会議の記録に質問できるツールで何ができるかを説明します。
Klangでは、文字起こしした会議に対してAIチャットで質問できます。1つの会議だけでなく、複数の会議や資料を組み合わせて分析することもでき、回答から根拠になった発言に戻って確かめられます。記録を参照して回答を作り、根拠を確認できるという点で、RAGが目指している性質と同じ方向の機能です。内部の検索方式や構成の詳細は公開していません。
お客様の会話データはAIモデルの学習に利用しません。前の節で比べたとおり、会社の記録を学習に使わず、参照して答える形をとることで、記録を削除すれば参照されなくなります。
MCPに対応したAIクライアントからKlangの記録を参照したい場合は、読み取り専用のMCPサーバーも使えます。AIエージェントと組み合わせた使い方は、それぞれのガイドで扱っています。
社内でRAGを導入する前に決めること
技術の選定より先に、データとアクセスの範囲を決めておくと、後からの手戻りが減ります。
- 01
対象のデータを決める
全社の資料を一度に入れず、ある部署の会議記録や規程集など、範囲を決めて始めます。
- 02
権限を引き継ぐ
元の資料を見られない人が、AIへの質問を通じてその内容を知ることがないよう、検索の範囲を元の閲覧権限に合わせます。
- 03
古い情報の扱いを決める
改訂された規程や変わった決定を、どう区別して扱うかを決めます。
- 04
評価用の質問を用意する
答えの分かっている質問を20〜30問用意し、導入前後や設定を変えたときに正答率を比べます。
すべての会議に、まとめて質問できる
Klangは会議を話者ごとに文字起こしし、AIチャットで過去の会議に質問できるようにします。回答から根拠の発言に戻って確かめられるので、議事録に残らなかった判断の理由も探せます。
- 複数の会議や資料を組み合わせて分析できます。
- お客様の会話データをAIモデルの学習に利用しません。
- 読み取り専用のMCPサーバーで、外部のAIクライアントからも参照できます。
よくある質問
RAGとは何ですか。
Retrieval-Augmented Generation(検索拡張生成)の略です。AIが回答を作る前に社内の文書や記録を検索し、見つかった内容を根拠に回答を生成する仕組みです。モデルを再学習させずに、最新の社内情報を回答に反映できます。
RAGを使えばハルシネーションはなくなりますか。
なくなりはしません。検索で正しい情報が見つからない場合や、見つかった情報を誤って解釈した場合には、誤った回答が出ます。根拠になった資料を開いて確かめる手順を残しておくことが大切です。
RAGとファインチューニングはどちらを選べばよいですか。
社内の事実や経緯を答えさせたいならRAG、文体や形式を覚えさせたいならファインチューニングが向いています。RAGは資料を追加・削除するだけで反映され、根拠を示しやすい点が業務では扱いやすい特徴です。
会議の文字起こしにもRAGは使えますか。
使えますが、話し言葉で主語が省かれる、発言者を取り違える、古い決定が残っているといった難しさがあります。期間と相手を指定して質問し、根拠の発言と日付を確認すると、誤りに気づきやすくなります。
Klangの内部でもRAGが使われていますか。
Klangは、会議の記録を参照して回答し、根拠の発言に戻れるAIチャットを提供しています。内部の検索方式や構成の詳細は公開していません。会話データはAIモデルの学習には利用しません。
AI導入ガイド:いまの段階から読む
社内でAIツールを使い始めるまでの流れを、目的の整理、ルールづくり、ツールの審査、承認と定着の4段階に分けています。会議の録音・文字起こしを例にしていますが、ほかのAIツールにも使える手順です。
1. 目的を決める
- AI導入の進め方
- AIで業務効率化できる仕事の見極め
- RAGとは(社内データに答えさせる仕組み)(このページ)
2. ルールとリスク
3. ツールを審査する
4. 承認と定着