神戸2009 の履歴(No.2)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 神戸2009 へ行く。
  • 1 (2009-02-27 (金) 10:01:59)
  • 2 (2009-07-20 (月) 23:54:58)
  • 3 (2009-07-20 (月) 23:54:58)
  • 4 (2009-07-20 (月) 23:54:58)
  • 5 (2009-07-20 (月) 23:54:58)
  • 6 (2009-07-22 (水) 12:11:04)

---

第１日（7/22）：テキストの検索と集計

• 自己紹介
  • 国立国語研究所 http://www.kokken.go.jp (9月いっぱいまで)
  • 国語研コーパスの紹介（KOTONOHA）
• 日蝕の情報

イントロダクション

授業で利用する主なソフトウェア†

コーパスについて†

この授業ではBCCWJ（モニター公開版）・太陽コーパスのほか、青空文庫・国会会議録などの広義のコーパスも視野に入れて話をしていきます。

狭義のコーパス

言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。

• Kotonoha (BCCWJ / CSJ / 太陽コーパス)

広義のコーパス

コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。

• さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
• Webデータ
  • 検索サイトの利用
  • WAC（Web as Corpus）

• BCCWJモニター版について

BCCWJの紹介

• 「現代日本語書き言葉均衡コーパス」（BCCWJ）
  • 特定領域 日本語コーパス
• BCCWJはどのように作られているか
  • サンプリング
  • 電子化
    • 文字入力*
    • マークアップ（XML）*
  • 形態論情報の付与
    • 形態素解析（短単位）*
    • チャンキング（長単位）

上記の*印の内容について授業でも取り扱います。

• BCCWJ検索デモサイト
  • 簡単な調査はこれで十分な場合がありますが、授業ではより高度な利用方法を扱います。

テキストファイルと文字コード

• テキストデータとはどんなものか
  • 授業資料/テキストデータとは
  • 授業資料/テキストデータ紹介（広義のコーパス）

• 授業資料/文字コード関連リンク
  • 参考:文字化けはなぜ起きるか（日経パソコンPC online）

テキストファイルと拡張子†

• 拡張子(wikipedia)
• 拡張子辞典：http://jisyo.com/viewer/list/list.html
• TXT,CSV,HTM・・・

テキストエディタ：K2Editor

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

• スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
  • cf. 見た目 と 構造

テキストエディタを使う

• K2Editorの使い方（PDF）
• 検索と置換
  • 検索で初出行を調べる
  • 置換で用例数を数える
• grepとタグジャンプ
  • grep
  • タグジャンプ
  • grep結果の保存

• 授業資料/grepと置換でKWICを作る

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー☆

（補足）おすすめテキストエディタ†

• フリーウェア
  • K2Editor http://k2top.jpn.org/index.php?K2Editor 【SJIS】
  • Apsalyテキストエディタ http://www.vector.co.jp/soft/win95/writing/se423509.html 【SJIS】
  • サクラエディタ http://sakura-editor.sourceforge.net/ 【SJIS】unicode版開発中
• シェアウェア
  • EmEditor http://jp.emeditor.com/ 4,200円
  • 秀丸エディタ http://hide.maruo.co.jp/software/hidemaru.html 4,200円

正規表現

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

正規表現のいろいろ†

• 授業資料/正規表現☆
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 全然～ない。
• 会話文中（「で始まる）

タグ付き正規表現（復習）†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う

• 授業資料/タグつき正規表現☆

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

全文検索ソフト：「ひまわり」

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

「ひまわり」で使用できる正規表現†

• 授業資料/Himawariの正規表現
• 検索語/キー：普通の文字と、列挙型の文字クラス([あいう]のようなもの。[あ-う]のような範囲指定は不可)
• 前文脈/後文脈：ほぼ全ての正規表現
  • 例：[寂淋]し

検索結果の集計：「Excel」

表計算ソフト Excel入門

• 並べ替え
• オートフィルタ
  • オートフィルタの「オプション」

Excelを使った集計†

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx
• グラフの種類について
  • http://office.microsoft.com/ja-jp/help/HA012337371041.aspx
  • 扱う対象・方法に適したグラフを選択する 上記URL参照

• 用例の分類と集計
  1. 分類記号を入れる列を用意し、自分で入力する
  2. ピボットテーブルで入力した分類を使う
  • ミタヨウダ／ミタイダ

• 関数を使う
  • NDCの最上位だけを取り出すには
  • 生年を10年ごとの生まれた年代に変換するには
    • =left([生没年],3)*10

（補足）テキストエディタと組み合わせて使う†

• Excelの列をテキストエディタに貼り付けて編集することができる
• エディタと組み合わせて工夫することでExcelだけでは簡単にできない処理が可能
  • 特定の列をエディタにコピーして正規表現を使った置換を行う

第２日（7/23）：マークアップ言語・形態素解析・データベース

マークアップ言語：XML

• 「現代日本語書き言葉均衡コーパス」（BCCWJ）も「太陽コーパス」も「話し言葉コーパス」（CSJ）もXML
• 「ひまわり」の検索対象データもXML

ミニコーパスを作る：「えだまめ」

• 自分でミニコーパスを作るには
• マークアップ言語
  • HTML
    • ごく簡単なHTMLの説明：http://www.kanzaki.com/docs/htminfo.html
  • XML
    • たのしいXML：http://www6.airnet.ne.jp/manyo/xml/

「ひまわり」用のデータを作るには†

• ひまわり用のデータの作り方（自分でXML文書を設計・作成、設定ファイルを作成する）
  • ◎自由に情報がつけられる　／　△やや難
• ひまわり用データ作成ツール「えだまめ」（テキストファイルから自動変換により作成する）
  • 「えだまめ」の使い方
  • △自分で付けられる情報は「パス」のみ　／　◎簡単
    • （自動でできたXMLファイルと設定ファイルを編集して、必要な情報を付けることはできる）

既存のデータを「ひまわり」用に変換する†

• ソフトウェア/しおまめ（新潮文庫の100冊シリーズ変換）
• 青空文庫のDVD-ROMを変換 #amazon(4899840721)

形態素解析：「Mecab」と「UniDic」

• 形態素解析とは
  • 配付資料：シリーズ国語研究の現場から「日本語研究と自動形態素解析」

形態素解析用ソフトウェア

• 形態素解析器（解析エンジン・プログラム）
  • 茶筌（ChaSen）
  • 和布蕪（MeCab）
• 解析辞書
  • NAIST-jdic (IPADIC)
  • UniDic
    • 近代文語UniDic
• 茶まめ（解析用GUIツール）

UniDicの特長

1. 見出し語が短単位という斉一な単位に揃えられている
2. 見出し語が階層化されており表記の揺れや語形の変異にかかわらず同一の見出しを与えることができる
3. アクセントや音変化の情報を付与することができる

UniDicはChaSen, MeCabのどちらの解析器でも利用可能（MeCabがおすすめ）。

茶まめで形態素解析・Excelで集計

1. 茶まめで解析してみる（解析器はMeCab＋解析辞書はUniDic）
2. Excelに出力する
3. ピボットテーブルで集計する

データベースの利用：「Access」

• 関係データベースとは
  • Wikipedia

データベースに取り込む：

1. Accessで新規データベースを作成(mdbファイル)
2. インポート
   • 文字コード（コードページをUTF-8に指定する）
3. 連番を付ける

データを取り出す・集計する

• 選択クエリ
  • 列を選択
  • 行を選択
• 表の結合
  • 内部結合と外部結合
  • 表を結合して選択
• 集計
  • カウント（何例あるか）
  • 合計・平均・・・

連続する形態素を取り出す・集計する

1. 次の形態素の連番を付ける
   1. 列を用意する
   2. 更新クエリ
2. 連続する形態素を抜き出す
   1. 解析結果テーブル自身をずらして結合する
   2. 前後の形態素で条件指定した選択クエリ

発展

• 授業資料/コンピュータ言語
  • Perl(Ruby,Python)
  • SQL
  • R
  • XML/XSLT