bodais 自動進化型データ解析
クラウドプラットフォーム

03-5259-9004 受付:平日10:00~18:00 

自然言語処理/テキストマイニング(主文抽出)

テキストマイニングとは・・・

テキストマイニングのマイニング(mining)とは、「発掘(Mine)」という意味で、テキストの山から価値ある情報を掘り出す、といった意味が込められています。 価値ある情報を発掘するという意味で、データマイニングの手法の一種とも言えます。

日本語は記述上、英語のように単語を分かち書き(文章において語のくぎりに空白を挟んで記述する)をするという習慣はありません。このため、日本語を用いたテキストではまず、定型化されていない文章の集まりを、自然言語解析の手法を使って単語やフレーズに分割します。その上で単語やフレーズの出現頻度や相関関係を分析して、有用な情報を抽出することになります。 テキストマイニングでは、ルールに従って分析することにより、単語間の関係や時系列の変化などを抽出してゆきます。こうして、業務上の問題点を把握したり、製品の評価を調べたり、特に多い問い合わせやクレームを見出したり、さらにこれらが時系列にどう変遷しているかを調べたり、分析・解析することができるようになります。

日本では、業務関連データやデータベース(DB)は数多く存在し、そのほとんどがそのまま自然文のデータ(テキスト文)の蓄積という形で存在しています。例えば、営業日報や自由記述のアンケート、コールセンターでの顧客とオペレータのやり取りの記録、メーリングリストのログなどです。 これらは意味のある形で数値化や定型化することが難しいため、担当者が一つ一つ目を通して読んで内容を把握して分析することになります。このため分析・解析するには時間がかかってしまい、DBを効果的効率的に活用することは難しさがたくさんあります。

テキストマイニングでは、膨大に蓄積されたテキストデータを単語やフレーズに分解し、これらの関係を一定のルールに従って分析することにより、単語間の関係や時系列の変化などを抽出していきます。

テキストマイニングの有用性

企業に蓄積されているデータのうち、8割以上がテキストデータであると言われています。近年、このデータが活用できているか、できていないか、が業績に大きく影響するようになってきています。

例えば、アンケートの自由回答やコールセンターのログ、Webサイト上のユーザ書き込み、営業日報などを解析することによって、顧客や市場のニーズを抽出したり、自社商品やサービスの評判を分析したり、業務上の問題点を把握したりすることができます。また、これらが時系列にどう変遷しているかを調べることも可能となっています。

テキストマイニングは、大量の形式化されていないテキスト集合(文書数で数百万)から、自然言語処理の手法によって重要なテキスト群を抽出し、それらをデータマイニングの手法によって解析して、役に立つ知識や情報を獲得する分析手法の総称で、人が読むだけでは得られない、発見的な知識獲得が可能です。

主文抽出概要図

任意の文章群から、各文章毎に特徴的なキーワードを抽出します。 アンケート分析における「特徴度」で説明すると、特徴度とは、話題の中でテーマを読むための指標であり、平均頻度(単語の1回答あたりの出現頻度)が小さめで、人数が多いものを優先する指標となります。

句点「。」で区切られた複数の文章をひとかたまりとして「主文抽出解析エンジン」に投入していただくと、句点「。」毎に文章を分割し、文章毎に「ID」を付与します。その上で、各文章が全体で伝えたい内容にどの程度関係性が強いかを「スコア」を付けて評価します。

スコアで降順化することで、大量の文章をすべて読み解かずに、スコア上位の文章だけで全体を理解することが可能になります。
判例集、事例集、特許、FAQなど、長文章からその概要を素早く読み解くことができます。

主文抽出概要図

●文章をテキスト入力

複合語解析概念図

 
主文抽出
エンジン
alow alow

●文ID,スコア,文の3列を
出力

複合語解析概念図

お客様のご意見をお聞かせください。