- 追加された行はこの色です。
- 削除された行はこの色です。
[[東京外大2016]]
*Japan Studies 1:コーパス日本語学入門
-前期・木曜4限
-ogiso@ogiso.net ←@を@に直してください
//
//
//***プレーンテキストからタグ付きテキストへ
//-2000年代(タグ付きテキスト「コーパス」へ)
//--狭義の「コーパス」登場
//---『太陽コーパス』2005
//
**2016/04/28
***正規表現
-復習
--grepで簡単なKWIC(活用しない語)
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d6f]
-CSVファイルとは:テキストファイルで表を表現する
[[用語:CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC:KeyWord In Context
***タグ付き正規表現
-走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)を使う
-[[授業資料/タグつき正規表現]]
**2016/04/21
-今回からUSBメモリを使います。
***テキストエディタ
-テキストデータ(青空文庫)の配布
---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] (今日の授業で使います)
---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/134600/aozoradoc2.zip]](青空文庫全テキスト・参考)
--ダウンロードしてUSBメモリに展開(解凍)してください
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]]
--文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する
--エディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている)
--記号はすべて半角
--記号そのものを表す場合には\でエスケープする(特殊な意味を打ち消す) 例:1\+2
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの補集合(それ以外の文字)[^ ]
**2016/04/14
-次回以降、USBメモリ(少なくとも2GB以上)を持ってきてください。
***「コーパス」について [#k44345b6]
:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
***紙の資料からコーパスまで
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス
***テキストファイル
-テキストデータとはどんなものか
--[[授業資料/テキストデータとは]]
--[[授業資料/テキストデータ紹介]](広義のコーパス)
-テキストエディタ
--[[授業資料/テキストエディタ]]
-サクラエディタのダウンロードとインストール
--[[サクラエディタのダウンロード:sakura2.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sakura2.zip&refer=%C5%EC%B5%FE%B3%B0%C2%E72016%2F%C1%B0%B4%FC]]
---(参考) サクラエディタホームページ:http://sourceforge.net/projects/sakura-editor/
-zipファイルの展開(解凍)
--解凍しないままでも開けるが必ず解凍すること
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号)
-練習用サンプルデータ(漱石+芥川)
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]]
**2016/04/07
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]]
--[[形態素解析辞書UniDic>http://sourceforge.jp/projects/unidic/]]
-デモ
-「現代日本語書き言葉均衡コーパス(BCCWJ)」
--BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
--BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
-Excelによる集計(ピボットテーブル)
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法