全文検索

QuickSolutionの全文検索技術

このページでは「全文検索」について簡単に解説しています。
また、QuickSolutionの全文検索技術についても、あわせてご紹介します。

全文検索とは

全文検索とは、複数の文書(ファイル)から特定の文字列(キーワード)を検索する技術を指します。「全文」は「全て」の「文字」という意味であり、文書(ファイル)に含まれるすべての文字情報を対象として検索するので「全文検索」と呼ばれます。
インターネットのWeb検索で使われる全文検索エンジンとして有名なものにGoogle、Yahoo!、Bingなどがあります。検索キーワードを入力するだけで、瞬時に欲しい情報が得られるので大変便利です。

文書(ファイル)の「ファイル名」や「単一のファイル内の特定の文字列」だけを検索するのと異なり、複数の対象ファイルの全文(文章の全体)からテキスト情報を抽出し、合致する文字列(キーワード)を検索することができる全文検索は、ファイルの所在やファイル名がはっきりしない場合などに非常に有効な検索手法です。

このような全文検索を実現するのが全文検索システム/全文検索エンジン(英語では"full-text search system"/"full-text search engine")であり、QuickSolutionは企業向けの全文検索システム/全文検索エンジンの製品です。

QuickSolutionの全文検索には、キーワードによる検索(完全一致検索)のほか、あいまい検索(類似検索)セマンティック検索があり、他の全文検索システム/全文検索エンジンの製品にはない特長を持っています。
全文検索システム/全文検索エンジンの仕組みやQuickSolutionの全文検索の特長について、以下で詳しくご説明いたします。

全文検索システム/全文検索エンジンのテキスト情報の抽出方法

全文検索システム/全文検索エンジンはgrep型と索引型とに大別されます。
多くの本が格納された本棚から欲しい情報を探すケースを例に、この2つの全文検索方式をご説明します。

まずgrep型は、本棚の端から端まで一つずつ本を開いては欲しい情報があるかどうかを探していく方法で、逐次検索とも呼ばれます。事前準備は必要なくただちに検索に取り掛かることができますが、膨大な本とそのページ(データ)の中から探し出す場合、その量に比例して検索時間も長くなります。

一方索引型では、各情報がどの本棚のどの段のどの本の何ページに格納されているかのリスト(索引情報)をあらかじめ準備しておきます。このリストを用いることで簡単かつスピーディに、欲しい情報の載った本を探し出すことができるのです。

ビジネスシーンにおいては大量のデータ群から目的の情報を高速に検索することが求められるため、あらかじめ索引情報を準備しておく索引型の全文検索が一般的です。この索引情報をインデックスと呼びます。
(インデックスの生成方法に関しては機能>高速検索をご参照下さい)
インデックス生成時の文字列の抽出方法としては、主に形態素解析方式N-gram方式、さらにその2つを組み合わせたハイブリッド方式などがあります。

形態素解析方式の特徴

英文の場合は単語と単語の間にスペースが入るため、スペースで区切られた文字列を抽出していけば、索引データの作成は容易です。しかし、日本語の場合は、単語をスペースで区切る習慣がありません。
その為、文脈の解析、単語分解を行い、それをもとにインデックスを生成します。
それが形態素解析です。
形態素解析を行うためには解析用の辞書(システム辞書)が必須であり、全文検索結果は辞書の品質に大きく影響を受けます

N-gram方式の特徴

検索対象を単語単位ではなく文字単位で分解して、インデックスを生成する方式です。
たとえば「全文検索技術」という文字列の場合、「全文」「文検」「検索」「索技」「技術」と2文字ずつ分割してインデックスを生成すれば、検索漏れが生じず、辞書の必要もありません
しかし形態素解析に比べると、全文検索結果にノイズ(「京都」で検索すると「東京都」がヒットするなど)が生じることが欠点とされています。

QSハイブリッド方式

QuickSolutionの全文検索は、形態素解析をベースとしたN-gram方式併用の「QSハイブリッド方式」を採用。
「QSハイブリッド方式」は、N-gram方式の特徴である検索漏れが発生しないという点に加え、検索ノイズについては独自アルゴリズムによる抑制および辞書の併用により、ノイズが入りにくくなっています
システム辞書のメンテナンスは基本的に不要な為、未踏テキストもすぐに検索することが可能です。
さらに検索機能を補完・拡張する機能として、関連語辞書(同義語・類似語登録)、シソーラス、単語重み付け辞書(重要語・不要語の登録)などを使用することで、検索漏れのない、ノイズが少ない全文検索結果を手に入れることができます。

全文検索システム/全文検索エンジンのインデックス方式と特徴

  形態素解析方式 N-gram方式 QSハイブリッド
方式
システム辞書 必要 不要 必要
インデックス
形式
単語転置ファイル:
単語インデックス
N-gram転置ファイル:
フルテキストインデックス
単語転置ファイル+N-gram転置ファイル
インデックス
生成方法
新たな検索語句を事前にシステム辞書に登録した後、追加ファイルだけでなく、既存のファイル全てに対してインデックスの再生成が必要 追加されたファイルの分だけ、インデックスを追加(差分更新) 追加されたファイルの分だけ、インデックスを追加(差分更新)
長所 検索結果にノイズが入りにくい 任意の文字列を検索可能
検索漏れがない
任意の文字列を検索可能
検索漏れがない
検索結果の上位にノイズが入りにくい
インデックスの再生成が不要
短所 検索漏れが生じる
新語/造語が検索できない
辞書のメンテナンスが必要
インデックス再生成が必要
型番の部分一致に弱い
→「イントラ」で検索して「イントラネット」がヒットしない
検索結果にノイズが入りやすい
→「京都」で検索して東京都がヒットする
→「スキー」で検索して「ウイスキー」がヒットする
CPUやメモリの負荷が比較的高い

全文検索システムQuickSolutionの導入メリット

ここまで全文検索の概要や技術について説明してきました。ここでは実際に全文検索システムであり、社内外(オンプレミス、クラウド)に点在する情報を横断検索できるQuickSolutionを導入して得られるメリットの中から3つをご紹介します。

1つ目のメリットとして、ファイルサーバやクラウドなどに点在する情報を横断的に、ファイルの中まで検索できるので「あのファイルどこにあったかな…」と探しているムダな時間を大幅に短縮することができます。導入するだけで業務効率化の効果があります。

2つ目に全文検索システムを導入することで単に保管しているだけだった膨大な情報資産の有効活用が可能になります。先輩や他部署の人が作った役立つ資料や過去の提案情報などを簡単に探して活用できるようになり、企業内のナレッジマネジメントが促進されます。

3つ目にDX推進につながるというメリットもあります。人材や時間が不足していたり、どこから手をつけて良いか分からなかったりといった理由でDXを取り組めていない企業が多く、DXの第一歩であるデジタルデータ活用を促進するために全文検索システムを導入するお客様が増えています。

ここでは全文検索システムの導入メリットについて簡単に説明しましたが、QuickSolutionは全文検索システムとしてだけでなく、全文検索エンジンとしての社内システム等への組込利用なども可能です。詳細はお問い合わせください。

全文検索システムの活用・導入事例

全文検索システムQuickSolutionを導入された企業の多くは、社内データの検索で業務効率化/ナレッジマネジメント/DXを実現しています。当ホームページでは多くの活用事例を掲載しておりますが、その一部をご紹介します。

詳しく見る 詳しく見る 詳しく見る

このページに関するセミナーも開催しています

「QuickSolution」紹介ウェビナー 企業内検索で業務効率化
受付中
2024年12月6日 16:00-17:00
オンライン
「QuickSolution」紹介ウェビナー DXを急ぎたいあなたに、検索DXのすゝめ
受付中
2024年12月26日 16:00-17:00
オンライン
「QuickSolution」紹介ウェビナー ナレッジマネジメントのよくある課題と解決法
受付中
2025年1月14日 16:00-17:00
オンライン
「QuickSolution」紹介ウェビナー RAG対応、企業内検索×生成AIがもたらす効果
受付中
2025年1月27日 16:00-17:00
オンライン

簡単な製品説明や見積りのみご希望の場合も
気軽にお問い合わせください

お問い合わせ

QuickSolutionの導入に関する不安やお悩みにお答えします。

問い合わせする

資料請求

QuickSolutionの詳細資料をご提供します。

資料請求する

トライアル

社内データでの評価利用、またはデモサイトでお試しいただけます。

トライアルに申し込む