AI活用のための社内データ検索｜RAGの精度を上げる検索方法

社内にたまっている資料をAIに扱わせたい。そう考えて調べ始め、RAGという言葉に行き着いた方も多いかと思います。

そこからもう一歩進めると、キーワード検索、ベクトル検索、ハイブリッド検索といった検索方式の名前が次々に出てきます。

それぞれが何を指すのか、なぜAIに社内の資料を読ませるために新しい検索方式が要るのか、自社ではどれを選べばよいのか。解説を開いても、これらの疑問は解けないまま残ります。

本記事では、RAGの仕組みと、その中で動いている3つの検索方式を整理し、自社にどの方式が必要かを絞り込むところまでを示します。

RAGとは

RAG（Retrieval-Augmented Generation、検索拡張生成）とは、AIが回答する前に社内の資料を検索し、そこで見つかった文書を読ませたうえで答えを作らせる仕組みです。

ChatGPTのような生成AIは、自社の議事録や規程の中身を知りません。
そこで質問が来るたびに社内の資料から関係しそうな箇所を探し出し、その文書を添えて「これを参考にして答えてください」と渡します。

検索できる状態を作るために、社内の文書は事前に2つの処理を受けます。

1つ目がチャンク化（長い文書を数百文字程度の断片に切り分ける処理）です。
AIが一度に読める分量には上限があるため、文書をまるごと渡すのではなく、あらかじめ細かく切っておきます。切り分け方が粗いと文脈が途中で切れ、検索で当てにくくなります。

2つ目が、切り分けた断片を検索できる形にしておく処理です。
この形をどう作るかが、本記事での3つの検索方式の違いにあたります。

質問が来たあとの動きは2段です。
まず質問文をもとに社内の断片を検索して上位の数件を取り出し、次にその断片をAIへの指示文に添えて回答を作らせます。

AIが読めるのは、検索が拾い上げた断片だけです。 
社内に正しい資料があっても、検索が上位に出せなければAIの手元には届きません。

RAGの課題・限界｜検索が外した資料は、AIの側では取り戻せない

RAGの回答精度は、AIの性能よりも先に、検索がどれだけ当たるかで決まります。

検索が外した資料は、AIの側では取り戻せません。
より高い性能のモデルに入れ替えても、渡されていない文書の内容を答えることはできないためです。

外れた資料が混ざる場合も回答は悪化します。
Microsoftは、関係のない内容がAIに渡されると、余計な情報を選別する作業をAIに強いることになり、生成される回答の品質が下がって、応答時間と運用コストが増えることがあると書いています（出典: Azure AI Search: Outperforming vector search with hybrid retrieval and reranking、2023年9月）。
渡す件数を増やして当たる確率を上げようとすると、外れた資料も一緒に増えます。

もう1つの限界は、答えられる質問の型です。
RAGは文書の断片を探して渡す仕組みであるため、「今期の受注金額を製品別に集計してほしい」のような、数値を数え上げる問いには答えられません。
この種の問いに答えるには、表形式のデータ側で指標の定義をそろえておくセマンティックレイヤーのような仕組みが必要で、文書検索とは別の経路になります。

では、検索の当たり方は何で決まるのか。それが、RAGの中で動いている検索方式の違いです。

RAGの精度を上げる検索方式

キーワード検索とは｜語の一致で探す、型番や固有名詞に強い方式

キーワード検索とは、文書を語に分解して索引を作っておき、質問文に含まれる語と一致した語の数や重みで順位を付ける方式です。

検索エンジンやファイル検索で長く使われてきた形式です。
文字列が一致するかどうかで判定するため、質問と文書で同じ語が使われていれば、狙った資料をほぼ確実に上位に出せます。

強いのは、記号や固有名詞をそのまま探す場面です。
品番、社内の専門用語、人名のように決まった文字の並びで書かれるものは、文字列が合うかどうかだけで確実に判定できます。

例えば、「型番AB-1200の保証期間」と入力すると、AB-1200という文字列を含む文書を確実に候補へ入れられます。

弱いのは、質問と文書で言葉づかいが違う場面です。
利用者が「解約」と入力し、社内の規程が「退会」と書いている場合、一致する語がないため規程は候補に入りません。

ベクトル検索とは｜数値の近さで探す、言い換えに強い方式

ベクトル検索とは、文章や画像を数値の並びに変換しておき、質問も同じ方法で変換して、数値の近さで該当箇所を探す検索方式です。

文字列そのものを突き合わせるのではなく、意味の近いものが近い数値になるように変換したうえで、その距離で順位を付けます。

例えば

• 「犬」と「わんちゃん」のように言葉自体は違うものの、同じ意味のもの

• 「犬」と「dog」のように多言語で同じ意味のもの

• テキストの「犬」と犬の画像でデータが違うものの、同じものを指しているもの

は近い数値に変換されます。

逆に、「犬」と「国」のように違う意味のものは遠い数値で変換されます。

強いのは、質問の言葉づかいが揃わない場面です。
表記のゆれや同義語、話し言葉での問いかけでも、意味が近ければ候補に入ります。

弱いのは、型番のような記号列です。
数値に変換する過程では文章全体の意味が圧縮されるため、記号の並びそのものが持つ情報は他の要素に埋もれ、完全一致の取りこぼしが起きます。

ハイブリッド検索とは｜両方を走らせ、順位で合成する方式

ハイブリッド検索とは、1つの質問をキーワード検索とベクトル検索の両方に同時にかけ、それぞれが返した結果を1つの並び順にまとめて返す方式です。

まとめる部分に工夫が要ります。
キーワード検索は語の一致度で、ベクトル検索は意味の近さで順位を付けるため、2つは尺度の違う点数を出しています。

尺度が違う点数は、そのまま足したり大小を比べたりできません。
そこで点数の数値そのものは使わず、それぞれの検索で何位だったかという順位だけを取り出して合成します。

順位から点数を計算し直して、文書ごとに足し合わせる形です。
点数は順位に一定の数を足した値の逆数なので、上位の文書ほど大きくなります。
どちらの検索でも上位に入った文書は合計が大きくなり、最終的な並びでも上に来ます。

組み合わせる理由は、2つの検索が取りこぼす場面が違うからです。
キーワード検索は言い換えを、ベクトル検索は記号の完全一致を取りこぼします。
片方が落とすものをもう片方が拾うため、両方を走らせて順位をまとめると、単体よりも当たりが良くなる場面が増えます。

検索方法で何が変わるか

検索方式をキーワード検索からベクトル検索、ハイブリッド検索に広げると、AIの回答は3つの点で変わります。

質問の言葉と文書の言葉が揃わなくても答えが返る

社内文書の検索では、利用者の言い方と文書の書き方がずれることで外れが生じます。

先に挙げたMicrosoftの検証は、実際の顧客データで検索方式を比べたものです。
そこでは、質問と文書で使われている語の重なりが少ない質問について、ベクトル検索の成績がキーワード検索だけの約1.6倍になりました（2023年9月時点、同検証）。
ここでの成績は、上位に出た資料が質問の答えを含んでいるかを、順位の重みも込めて採点した指標です。

現場が「クレーム対応」と呼んでいる業務が、社内規程では「顧客申出処理」と書かれている場合、キーワード検索では規程が候補に入りませんが、ベクトル検索では意味の近い文書として候補に入ります。

文章以外のデータも検索の対象になる

数値に変換できるものであれば、同じ仕組みで探せます。
意味の近いものが近い値になるという性質は、日本語と英語のあいだでも成り立ち、文章と画像を同じ数値の空間に置ける変換方法を使えば、文章と画像のあいだでも成り立ちます。

日本語で質問して英語の技術文書が候補に入る、文章で説明して該当する画像が候補に入る、という探し方ができます。

例えば、「配管の腐食が進んだ状態の写真」と入力して、点検報告書に添付された画像が候補に入るようになります。
キーワード検索では、画像に付けられたファイル名や説明文の文字列が一致しない限り、候補に入りません。

根拠のない回答が減る

検索が当たる確率が上がると、AIに渡る資料の質が上がり、根拠のない回答が減ります。

ハルシネーション（AIが事実ではないことを本当のように答えてしまう現象）は生成AIの構造上なくせませんが、RAGでは社内の資料を根拠として渡すことで発生を抑えます。
渡した資料が外れていれば、この抑え込みは働きません。

同じ検証では、キーワード検索だけ・ベクトル検索だけ・両方を組み合わせた場合の3つを比べ、キーワード検索だけを基準にすると、ベクトル検索だけは約8%、両方を組み合わせた場合は約19%高い成績だったという結果になっています。

質問の内容に合わせた検索方法を選ぶ

3つの方式のうちどこに重心を置くかは、自社のデータと質問の性質で決まります。
次の3点を自社に当てると絞り込めます。

利用者の質問と、文書の言葉がどれだけ揃うか

社内から来る質問が、文書に書かれている語をそのまま使っているかどうかを見ます。

揃っている場合は、キーワード検索だけで足ります。
規程やマニュアルの正式名称で検索する運用が定着している、用語集が整っていて現場も同じ語を使っている、といった状態です。

揃わない場合は、ベクトル検索が必要になります。
部署ごとに呼び方が違う、現場の言い方と文書の見出し語がずれている、質問が「〜したいときはどうすればいい」のような話し言葉で来る、といった状態です。

判断の材料になるのは、実際に社内から来ている問い合わせです。
過去の問い合わせ履歴やチャットのログを並べ、そこで使われている語が答えの文書にも登場するかを確かめると、どちらに寄っているかが分かります。

型番・品番・社内の固有名詞がどれだけ含まれるか

検索の対象に記号列や固有名詞が多く含まれる場合、ベクトル検索を混ぜると成績が下がることがあります。

同じ検証を質問のタイプごとに分けて見ると、順位が入れ替わります。
重要な語だけを並べた短い質問、つまり機能名や固有の語をそのまま打ち込む形だけを取り出すと、成績が最も高いのはキーワード検索だけでした。
ハイブリッド検索はキーワード検索だけと比べて2割以上低く、ベクトル検索だけは約7分の1です。
文書の一節をそのまま貼り付けたような長い質問でも、キーワード検索だけとハイブリッド検索はほぼ並びます（2023年9月時点、同検証）。

検索方式は、新しいものほど成績が良いという並びになっていません。 
製造業の部品表、金融商品のコード、システムのエラーコードのように、探す対象が記号で管理されていて、利用者もその記号をそのまま打ち込む領域では、キーワード検索を主に置く判断が成立します。

どちらの取りこぼしが業務に支障を出すか

1点目と2点目が逆の方向を指す場合は、どちらの取りこぼしが業務に支障を出すかで決めます。

言い換えの取りこぼしが支障になるのは、問い合わせ対応や社内ヘルプデスクのように、質問の言い方が利用者ごとに変わる業務です。
完全一致の取りこぼしが支障になるのは、保守や品質管理のように、1つの型番を特定できなければ次の作業に進めない業務です。

そして、両方が支障になる場合が、ハイブリッド検索を作る場面です。
Microsoftは2024年11月に公開したレポートで、ハイブリッド検索と、その結果を並べ替える工程を組み合わせた形が、RAGを作るうえで当たり前の前提になったと書いています（出典: Raising the bar for RAG excellence: query rewriting and new semantic ranker）。

作る手間は増えます。
2つの検索を並行して動かし、順位を合成する部分を用意し、その動きを保守し続ける必要があります。
1点目と2点目の答えが片側にはっきり寄っているなら、その片側だけで始めて、外れ方を見ながら足す進め方も取れます。

RAGの精度を高める手段は、検索方式だけではない

最後に、検索方式は、RAGの精度を決める要素の1つです。
社内データをAIでフル活用していく段階では、ほかの要素も精度に影響してきます。

1つは、検索する前のデータそのものの品質です。
同じ検索方式を使っても、元の資料に古い版が混ざっていたり、同じ内容が複数のファイルに散っていたりすれば、検索が正しく当てたうえで中身の誤った資料を渡すことになります。
重複の整理、版の管理、更新日の把握といったデータ品質の管理は、検索方式の選択より手前にある論点です。

もう1つは、事前の処理として触れたチャンク化の設計です。
どの単位で切り分けるか、断片どうしを重ねるかどうかで、同じ検索方式でも当たり方は変わります。

RAGそのものを拡張する方向もあります。
GraphRAG（グラフラグ）は、文書に出てくる人・組織・製品などを点と線の関係としてつないでから検索する方式で、複数の文書にまたがる関係を辿る問いに答えられるようにしたものです。

社内データをAIでフル活用していく場合は、検索方式を決めたあとに、これらの要素も合わせて調べていただくことをおすすめします。

まとめ

社内データをAIに検索させるとき、RAGの回答精度はAIの性能よりも先に、検索がどれだけ当たるかで決まります。
検索が上位に出せなかった資料はAIの手元に届かず、モデルを入れ替えても取り戻せません。

検索方式は3つです。
キーワード検索は語の一致で探すため型番や固有名詞に強く、言い換えを取りこぼします。
ベクトル検索は数値の近さで探すため言い換えに強く、記号の完全一致を取りこぼします。
ハイブリッド検索は両方を走らせ、点数ではなく順位を取り出して合成することで、片方の取りこぼしをもう片方が拾う形にします。

自社にどれが必要かは、利用者の質問と文書の言葉がどれだけ揃うか、型番や社内の固有名詞がどれだけ含まれるか、どちらの取りこぼしが業務に支障を出すかの3点を、自社のデータに当てることで絞り込めます。

この3点を社内の実際の質問に当てるところから始めていただけると幸いです。