随分と前に
TTM: TinyTextMiner でテキストマイニング で、無料のテキストマイニングツールについて紹介をしましたが、最近になってまた使ってみています。TTMは、辞書機能を備えているので、形態素解析器の辞書にない語彙をキーワードとして登録したり、同義語の定義をしたり、不要な語を削除することが容易にできます。テキストマイニングで一番大切な作業はこの辞書の整備だったりもします。
Tiny Text Miner については、以前下記のように紹介しています。
Tiny TextMiner とは、大阪大学大学院経済学研究科 松村研究所の松村真宏氏が公開しているフリーのテキストマイニングツールです。形態素解析にMeCabを利用して、単語の出現頻度と出現件数(単語を含むサンプル件数)を出力します。また係り受け解析のCaboChaと連携して係り受けによる、出現頻度と出現件数を出力することもできます。
現時点での最新版は、バージョン 0.75 (for Win)です。
Tiny Text Minerのインストール TTMのインストール先は任意です。TTMは、形態素解析器としてMeCabを利用していますので、日本語のテキストマイニングをするのであればMeCabのインストールは必須です。また係受け分析も行うのであれば、CaboChaのインストールが必要になります。
データクレンジング 本家のサイトでもFAQとして記載されているものもありますが、Tiny Text Minerを使う上で、事前にテキストマイニング対象のテキストをクレンジングする必要があります。
空白行の削除
Excelセル内の改行の削除
半角文字を全角に小文字を大文字に変換
機種依存文字の削除
a. 空白行の削除
TTMでは空白行があると処理できませんので、対象テキストで空白のものがあれば削除します。
b. Excelセル内の改行の削除
Excelセル内で改行されている(Alt+Enterでセル内で改行)場合も正しく処理できません。TTMのFAQでは、Excelの=CLEAN()関数を利用して改行を削除とありますが、多くの場合、改行の位置は文字区切りの位置でもあります。置換で改行をスペースに変換した方が、語の区切り目を正しく認識してくれます。またスペースは全角でなければ語の区切り文字として認識してくれません。Windowsでは改行がCTL+Jで入力できるので置換と検索で改行を全角文字に置換します。
① 改行の入力
検索する文字列(
N )のリストボックスにカーソルがある状態でCtrlキーとJを同時に押します。見た目上は何も変わらないので複数回入力してしまうと変換できなくなってしまうので、正しく変換されないと思ったら検索する文字列で違う文字を入力するか、Excelを再起動してやり直してください。
② 全角スペースの入力
置換語の文字列(
E )のリストボックスにカーソルがある状態で、全角スペースを入力します。
テキストが入力されている列を選択して検索と置換で「すべて置換」とすると改行が全角スペースに変換されます。
半角と全角スペースで置換した場合と、=CLEAN()関数でスペースがなしと場合で、Tiny TextMinerでどのように形態素解析されるかを試してみます。
zou.csv(入力データ)
1 アフリカゾウ インドゾウ ← アフリカゾウとインドゾウの間は半角スペース
1 アフリカゾウ インドゾウ ← アフリカゾウとインドゾウの間は全角スペース
1 アフリカゾウインドゾウ ← アフリカゾウとインドゾウの間にスペースなし
zou_ttm1.csv(出現頻度)
タグ 語 品詞 品詞細分類 出現頻度
1 インド|ゾウ 複合名詞 複合名詞 1
1 アフリカ|ゾウ|インド|ゾウ 複合名詞 複合名詞 1
1 アフリカ|ゾウ 複合名詞 複合名詞 1
半角スペースの行が正しく処理されなかったため、インド|ゾウ、アフリカ|ゾウの出現頻度は1となっています。また入力3行目がアフリカゾウとインドゾウの間の改行を=CLEAN()関数でスペースを削除した結果だとすると、アフリカ|ゾウ|インド|ゾウという1語になってしまっていることがわかります。
c. 半角文字を全角に 小文字を大文字に変換
英数数字、記号を日本語として扱うために全角変換をします。勿論、上記の半角スペースも全角スペースに変換されます。変換は、Excelの関数で簡単にできます。
=JIS() 半角文字を全角に変換する
=UPPER() 大文字に変換する
上記を組み合わせて=UPEER(JIS(A2))のようにすれば全角大文字変換ができます。
c. 機種依存文字を削除する
Tiny Text Minerでは、機種依存文字があると正しく処理されないために機種依存文字を除く必要があります。代表的な機種依存文字は下記に示しますが、丸数字やローマ数字は、一般的によく利用されているので気を付ける必要があります。
代表的な機種依存文字
機種依存文字を削除するにはExcelの=SUBSTITUTE()を使って削除することもできますが、かなりネストが深い構造になります。
①~⑳までを削除する
=SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(B2,"①",""),"②",""),"③",""),"④",""),"⑤",""),"⑥",""),"⑦",""),"⑧",""),"⑨",""),"⑩",""),"⑪",""),"⑫",""),"⑬",""),"⑭",""),"⑮",""),"⑯",""),"⑰",""),"⑱",""),"⑲",""),"⑳","")
Ⅰ~Ⅹまでを削除する
=SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(SUBSTITUTE(B3,"Ⅰ",""),"Ⅱ",""),"Ⅲ",""),"Ⅳ",""),"Ⅴ",""),"Ⅵ",""),"Ⅶ",""),"Ⅷ",""),"Ⅸ",""),"Ⅹ","")
※簡単にできる方法があれば教えてください。
実行上の注意点 入力データのクレンジングが終わり、これでやっとTiny Text Minerを実行できるようになりますが、使用上の注意事項が幾つかあります。
出力フォルダ
Windows7環境だと出力フォルダに指定するフォルダ名が日本語パスがあると指定できません。入力ファイルや辞書ファイルのパスでは問題ありません。
抽出される語は1,000件まで
TTMのクロス集計表(ttm3~ttm6)で抽出される語は1,000語までです。出力結果が1,000語を超える場合には、語の出現頻度/出現件数の最小値を2件以上にして調整しなければ解析対象に全語が含まれなくなります。
不要語に指定するのは原型
不要語を削除する場合には、TTMで形態素解析された結果の語(原型)を指定しなければなりません。下記の場合、「行った」を不要語とした場合は、原型の「行く」を指定しないと削除できません。
zou.csv(入力データ)
1 象を見に動物園に行った
1 動物園にキリンを見に行った
zou_ttm1.csv(出現頻度)
タグ 語 品詞 品詞細分類 出現頻度
1 動物|園 複合名詞 複合名詞 2
1 見る 動詞 自立 1
1 行く 動詞 自立 2
1 キリン 名詞 一般 1
1 象 名詞 一般 1
Let's Try Tiny TextMiner
<A HREF="http://ws.amazon.co.jp/widgets/q?ServiceVersion=20070822&MarketPlace=JP&ID=V20070822%2FJP%2Fwalkingelepha-22%2F8010%2F5afb6b45-f585-4505-b6ea-0e4c2fcb4c65&Operation=NoScript">Amazon.co.jp ウィジェット</A>