東京外大2016/JapanStudies1 の履歴ソース(No.13)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• 履歴 を表示
• 東京外大2016/JapanStudies1 へ行く。
  • 1 (2016-04-07 (木) 12:03:07)
  • 2 (2016-04-07 (木) 13:50:33)
  • 3 (2016-04-08 (金) 06:02:26)
  • 4 (2016-04-14 (木) 12:46:15)
  • 5 (2016-04-15 (金) 08:33:43)
  • 6 (2016-04-18 (月) 15:45:53)
  • 7 (2016-04-21 (木) 01:45:07)
  • 8 (2016-04-21 (木) 14:15:08)
  • 9 (2016-04-21 (木) 14:15:08)
  • 10 (2016-04-27 (水) 11:08:23)
  • 11 (2016-04-28 (木) 13:55:12)
  • 12 (2016-05-11 (水) 19:12:14)
  • 13 (2016-05-12 (木) 14:12:24)
  • 14 (2016-05-19 (木) 13:52:35)
  • 15 (2016-05-26 (木) 14:10:00)
  • 16 (2016-05-26 (木) 14:10:27)
  • 17 (2016-06-02 (木) 11:53:50)
  • 18 (2016-06-09 (木) 10:19:58)
  • 19 (2016-06-09 (木) 13:31:49)
  • 20 (2016-06-16 (木) 07:07:10)
  • 21 (2016-06-16 (木) 15:49:36)
  • 22 (2016-06-21 (火) 16:33:13)
  • 23 (2016-06-23 (木) 14:15:02)
  • 24 (2016-06-23 (木) 16:08:49)
  • 25 (2016-06-28 (火) 15:29:09)
  • 26 (2016-06-30 (木) 13:49:38)
  • 27 (2016-07-07 (木) 13:20:44)
  • 28 (2016-07-07 (木) 13:20:44)

[[東京外大2016]]

*Japan Studies 1：コーパス日本語学入門

-前期・木曜4限
-ogiso＠ogiso.net　←＠を@に直してください


//
//ひまわり はとばす？
//

**2016/05/12


***コーパスの段階

+電子テキスト：grep： 文字列（正規表現）検索
+構造化テキスト：[[ひまわり>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]、[[少納言>http://shonagon.ninjal.ac.jp]] など： 文字列（正規表現）検索
+形態論情報付きコーパス：中納言、ChaKi など： 形態論情報による検索（タグ検索）


***コーパスの設計とサンプリング

-''（スライド参照）''
--[[コーパスの設計とサンプリング>https://dl.dropboxusercontent.com/u/134600/%E3%82%B9%E3%83%A9%E3%82%A4%E3%83%89/%E7%AC%AC3%E5%9B%9E%E3%82%B3%E3%83%BC%E3%83%91%E3%82%B9%E3%81%AE%E8%A8%AD%E8%A8%88%E3%81%A8%E3%82%B5%E3%83%B3%E3%83%97%E3%83%AA%E3%83%B3%E3%82%B0.pdf]]


-均衡コーパス（Balanced corpus）
--「バランスがとれている」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題


***「少納言」で正規表現を使う
-「現代日本語書き言葉均衡コーパス（BCCWJ）」
--[[少納言>http://shonagon.ninjal.ac.jp]]
---[[前後文脈の指定について>http://www.kotonoha.gr.jp/shonagon/help/context.html]]


***BCCWJ「中納言」登録申請
-ユーザー登録の申請（new!）　https://chunagon.ninjal.ac.jp/useraccount/register

***短単位と長単位

-配布資料参照


***品詞体系と見出し語の階層
-BCCWJ,CHJはUniDicの品詞体系にもとづく

-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]

**2016/04/28

-復習
--サンプルデータ[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] （前回と同じ）
--文字クラス、grep

***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化  ()
--or（論理和）  |
--文頭 ^、文末 $

***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）


***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d6f]
-CSVファイルとは：テキストファイルで表を表現する
[[用語：CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC：KeyWord In Context


***タグ付き正規表現

-走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ] 
---置換文字列：★走[らりるれろっ] 
-タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
-[[授業資料/タグつき正規表現]]


***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1  「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
--(.ろ)\1  「ころころ」「どろどろ」「へろへろ」などにマッチ

***最長一致の原則（greedy matching） [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例：''あ+'' → ''【\1】''
---ああああああああ →　【ああああああああ】
そのせいで…
--例：''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】''　のように書かなければならない
---「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
-よりかんたんに指定するには（最短一致，ものぐさ指定）
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける

***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
-正規表現に関する本　[[amazonで検索>http://www.amazon.co.jp/s/ref=nb_ss_gw?__mk_ja_JP=%83J%83%5E%83J%83i&url=search-alias%3Daps&field-keywords=%90%B3%8BK%95%5C%8C%BB&Go.x=0&Go.y=0&Go=Go]]

#amazon(4873114500)
#amazon(4873113598)
#clear


**2016/04/21

-今回からUSBメモリを使います。

***テキストエディタ

-テキストデータ（青空文庫）の配布
---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] （今日の授業で使います）
---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/134600/aozoradoc2.zip]]（青空文庫全テキスト・参考）
--ダウンロードしてUSBメモリに展開（解凍）してください

-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep

***ショートカットキー [#da449f25]

-[[授業資料/覚えておきたいショートカットキー]]


***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

***正規表現とは [#d216d4e0]

-''正規表現''　[[＞用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]]
--文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
--エディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
--記号はすべて半角
--記号そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2


-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの補集合（それ以外の文字）[^ ]


**2016/04/14
-次回以降、USBメモリ（少なくとも2GB以上）を持ってきてください。

***「コーパス」について [#k44345b6]

:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
--さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
--Web上のデータ
---検索サイトの利用
---WAC（Web as Corpus）

***紙の資料からコーパスまで

+(紙の)本文
+(紙の)総索引（コンコーダンス）
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス


***テキストファイル
-テキストデータとはどんなものか
--[[授業資料/テキストデータとは]]
--[[授業資料/テキストデータ紹介]]（広義のコーパス）
-テキストエディタ
--[[授業資料/テキストエディタ]]


-サクラエディタのダウンロードとインストール
--[[サクラエディタのダウンロード:sakura2.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sakura2.zip&refer=%C5%EC%B5%FE%B3%B0%C2%E72016%2F%C1%B0%B4%FC]]
---(参考) サクラエディタホームページ：http://sourceforge.net/projects/sakura-editor/

-zipファイルの展開（解凍）
--解凍しないままでも開けるが必ず解凍すること

-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

-練習用サンプルデータ（漱石＋芥川）
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]]


**2016/04/07
***イントロダクション/日本語コーパスの紹介

-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]]
--[[形態素解析辞書UniDic>http://sourceforge.jp/projects/unidic/]]

-デモ
-「現代日本語書き言葉均衡コーパス（BCCWJ）」
--BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
--BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
-Excelによる集計（ピボットテーブル）

-シラバス確認
--この授業の目的
--授業の進め方
--評価方法