TermExtract::MeCab -- 専門用語抽出モジュール（「和布蕪」版)
use TermExtract::MeCab;
入力テキストを、「和布蕪」（奈良先端大学で作成している日本
語形態素解析プログラム）にかけ、その結果をもとに入力テキス
トから専門用語を抽出するプログラム。
なお、「和布蕪」の出力はデフォルトのフォーマット指定を前
提としている。
使用法については、親クラス（TermExtract::Calc_Imp)か、以下の
サンプルスクリプトを参照のこと。
#!/usr/local/bin/perl -w
#
# ex_mecab.pl
#
# ファイルから「和布蕪」の形態素解析済みのデータを読み取り
# 標準出力に専門用語とその重要度を返すプログラム
#
# version 0.32
#
# maeda@lib.u-tokyo.ac.jp
use TermExtract::MeCab;
#use strict;
my $data = new TermExtract::MeCab;
my $InputFile = "mecab_out.txt"; # 入力ファイル
# プロセスの異常終了時処理
# (ロックディレクトリを使用した場合のみ）
$SIG{INT} = $SIG{QUIT} = $SIG{TERM} = 'sigexit';
# 出力モードを指定
# 1 → 専門用語＋重要度、2 → 専門用語のみ
# 3 → カンマ区切り
my $output_mode = 1;
#
# 重要度計算で、連接語の"延べ数"、"異なり数"、"パープレキシティ"のい
# ずれをとるか選択。パープレキシティは「学習機能」を使えない
# また、"連接語の情報を使わない"選択もあり、この場合は用語出現回数
# (と設定されていればIDFの組み合わせ）で重要度計算を行う
# （デフォルトは"延べ数"をとる $obj->use_total)
#
#$data->use_total; # 延べ数をとる
#$data->use_uniq; # 異なり数をとる
#$data->use_Perplexity; # パープレキシティをとる(TermExtract 3.04 以上)
#$data->no_LR; # 隣接情報を使わない (TermExtract 4.02 以上)
#
# 重要度計算で、連接情報に掛け合わせる用語出現頻度情報を選択する
# $data->no_LR; との組み合わせで用語出現頻度のみの重要度も算出可能
# （デフォルトは "Frequency" $data->use_frq)
# TFはある用語が他の用語の一部に使われていた場合にもカウント
# Frequency は用語が他の用語の一部に使われていた場合にカウントしない
#
#$data->use_TF; # TF (Term Frequency) (TermExtract 4.02 以上)
#$data->use_frq; # Frequencyによる用語頻度
#$data->no_frq; # 頻度情報を使わない
#
# 重要度計算で、学習機能を使うかどうか選択
# （デフォルトは、使用しない $obj->no_stat)
#
#$data->use_stat; # 学習機能を使う
#$data->no_stat; # 学習機能を使わない
#
# 重要度計算で、「ドキュメント中の用語の頻度」と「連接語の重要度」
# のどちらに比重をおくかを設定する。
# デフォルト値は１
# 値が大きいほど「ドキュメント中の用語の頻度」の比重が高まる
#
#$data->average_rate(0.5);
#
# 学習機能用DBにデータを蓄積するかどうか選択
# 重要度計算で、学習機能を使うときは、セットしておいたほうが
# 無難。処理対象に学習機能用DBに登録されていない語が含まれる
# と正しく動作しない。
# （デフォルトは、蓄積しない $obj->no_storage）
#
#$data->use_storage; # 蓄積する
#$data->no_storage; # 蓄積しない
#
# 学習機能用DBに使用するDBMをSDBM_Fileに指定
# （デフォルトは、DB_FileのBTREEモード）
#
#$data->use_SDBM;
# 過去のドキュメントの累積統計を使う場合のデータベースの
# ファイル名をセット
# （デフォルトは "stat.db"と"comb.db"）
#
#$data->stat_db("stat.db");
#$data->comb_db("comb.db");
#
# データベースの排他ロックのための一時ディレクトリを指定
# ディレクトリ名が空文字列（デフォルト）の場合はロックしない
#
#$data->lock_dir("lock_dir");
#
# 「形態素解析」済みのテキストファイルから、データを読み込み
# 専門用語リストを配列に返す
# （累積統計DB使用、ドキュメント中の頻度使用にセット）
#
#my @noun_list = $data->get_imp_word($str,'var'); # 入力が変数
my @noun_list = $data->get_imp_word($InputFile); # 入力がファイル
# 前回読み込んだ「形態素解析」済みテキストファイルを元に
# モードを変えて、専門用語リストを配列に返す
#$data->use_stat->no_frq;
#my @noun_list2 = $data->get_imp_word();
# また、その結果を別のモードによる結果と掛け合わせる
#@noun_list = $data->result_filter (\@noun_list, \@noun_list2, 30, 1000);
#
# 専門用語リストと計算した重要度を標準出力に出す
#
foreach (@noun_list) {
# 日付・時刻は表示しない
next if $_->[0] =~ /^(昭和)*(平成)*(\d+年)*(\d+月)*(\d+日)*(午前)*(午後)*(\d+時)*(\d+分)*(\d+秒)*$/;
# 数値のみは表示しない
next if $_->[0] =~ /^\d+$/;
# 結果表示
printf "%-60s %16.2f\n", $_->[0], $_->[1] if $output_mode == 1;
printf "%s\n", $_->[0] if $output_mode == 2;
printf "%s,", $_->[0] if $output_mode == 3;
}
# プロセスの異常終了時にDBのロックを解除
# (ロックディレクトリを使用した場合のみ）
sub sigexit {
$data->unlock_db;
}
このモジュールでは、get_imp_word のみ実装し、それ以外のメソッドは親
モジュール TermExtract::Calc_Imp で実装されている。
get_imp_word は形態素解析を行い抽出された単語を、個々の単語の語順と
品詞情報を元に複合語に生成している。それ以外のメソッドについては、
TermExtract::Calc_Imp のPODドキュメントを参照すること。
形態素解析結果を次のルールにより複合語に生成する。第１引数は、処理対
象のデータ、第２引数は第１引数の種別である。デフォルトでは、第１引数は
、形態素解析済みのテキストファイルとなる。第２引数に文字列 'var'がセッ
トされたときには、第一引数を形態素解析済のテキストデータが入ったスカラ
ー変数と解釈する。
１．次の品詞をもつ単名詞が連続で現れたときは結合する
・名詞 一般
・名詞 サ変接続
・名詞 接尾 一般
・名詞 接尾 サ変接続
・名詞 固有名詞
・記号 アルファベット
・m語
＊ASCIIの記号があらわれたときは、前後の語を結合して処理するよう
にしている。ただし、次の記号は除く。
()[]<>|"';,
２．次の品詞をもつ単名詞が現れたときは、次に続く語が上記１の名詞かど
うか判定し、異なるときは複合語として扱わない
・名詞 形容動詞語幹
・名詞 ナイ形容詞語幹
３．次の品詞をもつ単名詞が現れたときは、次に続く語が上記１の名詞かど
うか判定し、異なるときは複合語として扱わない。また、複合語の先頭に
きた場合は廃棄する。
・名詞 接尾 形容動詞語幹
４．品詞が動詞の場合は、複合語を廃棄する
５．次の１文字の「未知語」は語の区切りとする。また、「未知語」が ,
で 終わるときにも語の区切りとする。
!"#$%&'()*+,-./{|}:;<>[]
６．複合語をなす語頭の単名詞が「本」の場合は、「本」のみ削除する。
７．複合語をなす単名詞のうち、末尾が次の語の場合は、その末尾のみ削除
する。また末尾が空白の場合も削除する。
"など", "ら", "上", "内", "型", "間", "中", "毎" ,"等"
TermExtract::Calc_Imp
TermExtract::Chasen
TermExtract::BrillsTagger
TermExtract::EnglishPlainText
TermExtract::ChainesPlainTextUC
TermExtract::ChainesPlainTextGB
TermExtract::ICTCLAS
TermExtract::JapanesePlainTextEUC
TermExtract::JapanesePlainTextSJIS
このプログラムは、東京大学・中川裕志教授、横浜国立大学・森辰則助教授
が作成した「専門用語自動抽出システム」のtermex.plを参考に、「和布蕪」用
に作成したものである。
この作業は、東京大学・前田朗 (maeda@lib.u-tokyo.ac.jp)が行った。
なお、本プログラムの使用において生じたいかなる結果に関しても当方では
一切責任を負わない。