一橋2009

日本語学講義(I) 日本語コーパス研究†

• 授業に関するメールはこちらへ。小木曽 智信： ogiso@ogiso.net
• 授業資料/用語集リンク （わからないコンピュータ用語を調べてください）
• 授業フォルダ \\Linkstation\share\日本語コーパス

---

お知らせ†

持ち帰り用データ†

• 授業フォルダの「持ち帰り用」フォルダ内にある「ひまわり」のデータ、青空文庫のテキストはコピーして持ち帰ってかまいません。

【補足資料】

• 形態素解析結果をAccessで使う(PDF)(Access 2007で説明)☆

第15回（補講）　2008/07/17　形態素解析結果とデータベース

復習：形態素解析のためのツール

• 解析器：MeCab http://mecab.sourceforge.net/
• 解析辞書：UniDic http://download.unidic.org/

• ソフトウェア/UniDic/WindowsでUniDic

データベースに取り込む

• Accessで新規データベースを作成(mdbファイル)
• インポート
  • 連番を付ける

データを取り出す

• 選択クエリ
  • 列を選択
  • 行を選択
• 表の結合
  • 内部結合と外部結合
  • 表を結合して選択
• 集計
  • 合計・カウント（何例あるか）・平均・・・

連続する形態素を抜き出す

• 次の形態素の連番を付ける
  • 列を用意する
  • 更新クエリ
• 連続する形態素を抜き出す
  • 解析結果テーブル自身をずらして結合する

• 発展：授業資料/コンピュータ言語

第14回　2008/07/10　発表と討議（5）

発表2件

1. 順序をあらわす接続語に関する一考察
   • 3タイプ：第一に／最初に／まず　cf.石黒(2005)日本語教育125
   • 日本語母語話者／中国人学習者作文の比較
2. 二字漢語の形容詞用法と名詞用法の名詞修飾
   • ナ形容詞（～な～）、名詞（～の～）
   • 中国語ではともに「的」
   • 両用可能　普通・無限・透明

• 参考
  • 暮らしに生きることば：「立派の人」「普通な人」
    • http://www.kokken.go.jp/kanko/kokken_mado_mt/29/01/
  • 明治・大正期における形容動詞の連体修飾の形
    • http://www.bookmailclub.com/bmc/reader/search/?.command=detail&book_id=3154

データベース

• ひまわりの検索結果をデータベースに読み込む
  • 他の表と結合して利用
• ２単位以上になる言葉の検索
  • corpusテーブルにIDをずらしたcorpusテーブル（自分自身）を結合する（IDは連番）
    • SQLで書くと

      select * from corpus as corpus_1 
      inner join corpus as corpus_2 on corpus_1.ID+1 = corpus_2.ID
      where ・・・・・・

  • corpusテーブルに「次の形態素のID」列を持たせてインデックスを付けるとより高速に処理できる

第13回　2008/07/03　発表と討議（4）

発表（2件）

1. ら抜き言葉の使用傾向
2. 日本語と中国語との補文関係を持つVV型複合動詞

第12回　2008/06/26　発表と討議（3）

発表（3件）

1. コミックに見る人称代名詞
2. 強調を表すとりたて助詞（「も」）「まで」「さえ」
3. KYコーパスを用いた中国人中上級学習者の条件表現の研究

第11回　2008/06/19　発表と討議（2）／形態素解析結果とデータベース（2）

発表

1. 小説に見られる「外国人」の発話表記
2. 講義における指示表現の分析
3. 自動詞・他動詞による共起する語の範囲の違い

形態素解析結果とデータベース

• 選択クエリ
  • クエリで検索語を集計する
• 表の結合

第10回　2008/06/12　発表と討議（1）／形態素解析結果とデータベース（1）†

発表

1. テイル／テイタの用法（小説・新聞社説）
2. マニュアルの日本語の特徴（機械の説明書のネイティブチェック，ミニ対訳コーパス）

関係データベース

• 関係データベースとは
  • Wikipedia

• Microsoft Access（小規模向けデータベースソフト）
  • 形態素解析結果をデータベースに読み込む
  • 表とクエリ

第9回　2009/06/05　形態素解析†

• 配付資料
  • シリーズ国語研究の現場から「日本語研究と自動形態素解析」

形態素解析とは†

• 形態素解析器（解析エンジン・プログラム）
  • 茶筌（ChaSen）
  • 和布蕪（MeCab）
• 解析辞書
  • NAIST-jdic (IPADIC)
  • UniDic
    • 近代文語UniDic
• 茶まめ（解析用GUIツール）

茶まめで形態素解析・Excelで集計

1. 茶まめで解析してみる（解析器はMeCab＋解析辞書はUniDic）
2. Excelに出力する
3. ピボットテーブルで集計する

インストールの方法

• ソフトウェア/UniDic/WindowsでUniDic

第8回　2009/05/30　ミニコーパスを作る†

• 自分でミニコーパスを作るには
• マークアップ言語
  • HTML
    • ごく簡単なHTMLの説明：http://www.kanzaki.com/docs/htminfo.html
  • XML
    • たのしいXML：http://www6.airnet.ne.jp/manyo/xml/

「ひまわり」用のデータを作るには†

• ひまわり用のデータの作り方（自分でXML文書を設計・作成、設定ファイルを作成する）
  • ◎自由に情報がつけられる　／　△やや難
• ひまわり用データ作成ツール「えだまめ」（テキストファイルから自動変換により作成する）
  • 「えだまめ」の使い方
  • △自分で付けられる情報は「パス」のみ　／　◎簡単
    • （自動でできたXMLファイルと設定ファイルを編集して、必要な情報を付けることはできる）

既存のデータを「ひまわり」用に変換する†

• ソフトウェア/しおまめ（新潮文庫の100冊シリーズ変換）
• 青空文庫のDVD-ROMを変換 #amazon(4899840721)

第7回　2009/05/22　「ひまわり」とExcelの利用(2) / 発表課題の検討†

Excelを使った集計†

• ピボットテーブル・ピボットグラフを使う（復習）
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx

• 用例の分類と集計
  1. 分類記号を入れる列を用意し、自分で入力する
  2. ピボットテーブルで入力した分類を使う
  • ミタヨウダ／ミタイダ

• 関数を使う
  • =left([文字列],[文字数])
  • 生没年（1867-1916）から10年ごとの生まれた年代（1860）を取り出すには
    • =left([生没年],3)*10

発表課題について†

• 発表順
• 課題（案）

第6回　2009/05/15　「ひまわり」とExcelの利用(1)†

全文検索ソフト「ひまわり」の利用†

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

「ひまわり」で使用できる正規表現†

• 授業資料/Himawariの正規表現
• 検索語/キー：普通の文字と、列挙型の文字クラス([あいう]のようなもの。[あ-う]のような範囲指定は不可)
• 前文脈/後文脈：ほぼ全ての正規表現
  • 例：[寂淋]し

表計算ソフト Excel入門†

• 並べ替え
• オートフィルタ
  • オートフィルタの「オプション」

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx

• Excelの使い方全般について
  • Excel 2003 のヘルプと使い方
  • Excelトレーニング（Microsoft）

Excelを使った集計†

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx

• グラフの種類について
  • http://office.microsoft.com/ja-jp/help/HA012337371041.aspx
  • 扱う対象・方法に適したグラフを選択する 上記URL参照

テキストエディタと組み合わせて使う†

• エディタと組み合わせて使う
  • 特定の列をエディタにコピーして正規表現を使った置換を行う

第5回　2009/05/08　高度な正規表現†

タグ付き正規表現（復習）†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現
• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

おすすめテキストエディタ†

• フリーウェア
  • K2Editor http://k2top.jpn.org/index.php?K2Editor 【SJIS】
  • Apsalyテキストエディタ http://www.vector.co.jp/soft/win95/writing/se423509.html 【SJIS】
  • サクラエディタ http://sakura-editor.sourceforge.net/ 【SJIS】unicode版開発中
• シェアウェア
  • EmEditor http://jp.emeditor.com/ 4,200円
  • 秀丸エディタ http://hide.maruo.co.jp/software/hidemaru.html 4,200円

全文検索ソフト「ひまわり」の利用†

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

---

第4回　2009/05/01 　正規表現†

• 秀丸エディタの使い方(PDF)

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 全然～ない。
• 会話文中（「で始まる）

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

第3回　2009/04/24 　テキストエディタの利用†

• 復習
  • 検索で初出行を調べる
  • 置換で用例数を数える
• grepとタグジャンプ
  • grep
  • タグジャンプ
  • grep結果の保存

grepと置換でKWIC（CSVファイル）を作る†

• grep結果の置換による整形
• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• CSVファイルをExcelで開く
• KWIC：KeyWord In Context

テキストファイルと拡張子†

• 拡張子(wikipedia)
• 拡張子辞典：http://jisyo.com/viewer/list/list.html
• TXT,CSV,HTM・・・

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

• 文字クラス [ ]
• 文字クラスの否定（補集合）[^ ]

(続きは次回)

第2回　2009/04/17 　テキストデータとテキストエディタ†

コーパスについて†

この授業ではBCCWJ（モニター公開版）・太陽コーパスのほか、青空文庫・国会会議録などの広義のコーパスも取り扱う。

• 狭義のコーパス　言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
  • Kotonoha (BCCWJ / CSJ / 太陽コーパス)
• 広義のコーパス　コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
  • さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • Webデータ
    • 検索サイトの利用
    • WAC（Web as Corpus）

授業で利用する主なソフトウェア†

このほかにWeb上で利用できるサービスも取り上げます。

最初に、テキストエディタを使ってテキストデータを扱うことからはじめます。

• 共有フォルダの確認
  • マイネットワーク＞share＞日本語コーパス

テキストデータ†

全ての基本。テキストデータ≒テキストファイル≒電子化テキスト

• テキストデータとはどんなものか
  • 授業資料/テキストデータとは
  • 授業資料/テキストデータ紹介（広義のコーパス）
    • 参考 『国会会議録を使った日本語研究』

#amazon(4894762994)

• 授業資料/文字コード関連リンク

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストエディタの基礎†

• スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
  • cf. 見た目 と 構造
• 検索と置換
• grep

2009/04/10 イントロダクション†

• 自己紹介
• 国語研コーパスの紹介（KOTONOHA）
  • 現代日本語書き言葉均衡コーパス（BCCWJ） 日本語コーパス：http://www.tokuteicorpus.jp/
  • 日本語話し言葉コーパス（CSJ）
  • 太陽コーパス

• 授業の進め方について
  • シラバス確認

• デモンストレーション
  • 茶まめ（形態素解析）＋Excel

• 受講者アンケート
  • 専門・関心領域
  • PCスキル

最新の10件