[[東京外大2016]] *Japan Studies 1:コーパス日本語学入門 -前期・木曜4限 -ogiso@ogiso.net ←@を@に直してください ---- -[[コーパス検索アプリケーション「中納言」 https://chunagon.ninjal.ac.jp/>https://chunagon.ninjal.ac.jp/]] // //ひまわり はとばす // **2016/06/02 ***「中納言」検索結果のダウンロードとExcelでの利用 +ダウンロード +アーカイブの展開(解凍) +Excelでインポート ***Excelの基礎 -並べ替え --反転前文脈の使い方 -フィルタ --テキストフィルタ ***【重要】ピボットテーブルの使い方 -ピボットテーブル -ピボットグラフ ***質問対応 -自分の研究テーマのための検索方法の相談 **2016/05/26 -資料「[[中納言の使い方>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=20160519%C3%E6%C7%BC%B8%C0%A4%CE%BB%C8%A4%A4%CA%FD.pdf&refer=%C5%EC%B5%FE%B3%B0%C2%E72016%2F%C1%B0%B4%FC]]」参照 ***(復習)形態論情報を使った検索 ***検索条件式の利用 キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%") AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1" AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF" **2016/05/19 ***短単位と長単位 -配布資料参照 ***品詞体系と見出し語の階層 -BCCWJ,CHJはUniDicの品詞体系にもとづく -[[授業資料/UniDicの品詞体系]] -[[授業資料/UniDicの見出し語階層]] ***形態論情報を使った検索 -資料「中納言の使い方」参照 -検索例 --「時の経つにつれて」 --名詞+の+動詞連体形+につれて **2016/05/12 ***コーパスの段階 +電子テキスト:grep: 文字列(正規表現)検索 +構造化テキスト:[[ひまわり>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]、[[少納言>http://shonagon.ninjal.ac.jp]] など: 文字列(正規表現)検索 +形態論情報付きコーパス:中納言、ChaKi など: 形態論情報による検索(タグ検索) ***コーパスの設計とサンプリング -''(スライド参照)'' --[[コーパスの設計とサンプリング>https://dl.dropboxusercontent.com/u/134600/%E3%82%B9%E3%83%A9%E3%82%A4%E3%83%89/%E7%AC%AC3%E5%9B%9E%E3%82%B3%E3%83%BC%E3%83%91%E3%82%B9%E3%81%AE%E8%A8%AD%E8%A8%88%E3%81%A8%E3%82%B5%E3%83%B3%E3%83%97%E3%83%AA%E3%83%B3%E3%82%B0.pdf]] -均衡コーパス(Balanced corpus) --「バランスがとれている」とは? --コーパスの母集団の設定とサンプリング --BCCWJのサブコーパス --可変長と固定長 -著作権をめぐる問題 ***「少納言」で正規表現を使う -「現代日本語書き言葉均衡コーパス(BCCWJ)」 --[[少納言>http://shonagon.ninjal.ac.jp]] ---[[前後文脈の指定について>http://www.kotonoha.gr.jp/shonagon/help/context.html]] ***BCCWJ「中納言」登録申請 -ユーザー登録の申請(new!) https://chunagon.ninjal.ac.jp/useraccount/register **2016/04/28 -復習 --サンプルデータ[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] (前回と同じ) --文字クラス、grep ***正規表現のいろいろ [#q514651f] -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの否定(補集合)[^ ] --繰り返し ? + * --グループ化 () --or(論理和) | --文頭 ^、文末 $ ***正規表現の応用 [#c7a3ea2d] -カタカナ語 --カタカナ(外来語)の形容動詞語幹 -送りがなの揺れ(行う/行なう) -会話文中("「"で始まる文中)の用例を検索する -同一文中での共起 --全然~ない。 --もし~なら(ば) ***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d6f] -CSVファイルとは:テキストファイルで表を表現する [[用語:CSVファイル>http://e-words.jp/w/CSV.html]] -KWIC:KeyWord In Context ***タグ付き正規表現 -走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか --次のように置換するととんでもないことに… ---検索文字列:走[らりるれろっ] ---置換文字列:★走[らりるれろっ] -タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)を使う -[[授業資料/タグつき正規表現]] ***検索文字列の中での後方参照 [#j9966c0d] -検索語の中で\1を使う --(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ --(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ ***最長一致の原則(greedy matching) [#y047e9bd] -正規表現は、パターンが一致する最も長い範囲にマッチする --例:''あ+'' → ''【\1】'' ---ああああああああ → 【ああああああああ】 そのせいで… --例:''「(.+)」'' → ''【\1】'' ---「こんにちは」「さようなら」 → 【こんにちは」「さようなら】 --括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】'' のように書かなければならない ---「こんにちは」「さようなら」 → 【こんにちは】【さようなら】 -よりかんたんに指定するには(最短一致,ものぐさ指定) --''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける ***正規表現に関する参考資料 [#w86de08b] -サクラエディタの正規表現:http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html -正規表現に関する本 [[amazonで検索>http://www.amazon.co.jp/s/ref=nb_ss_gw?__mk_ja_JP=%83J%83%5E%83J%83i&url=search-alias%3Daps&field-keywords=%90%B3%8BK%95%5C%8C%BB&Go.x=0&Go.y=0&Go=Go]] #amazon(4873114500) #amazon(4873113598) #clear **2016/04/21 -今回からUSBメモリを使います。 ***テキストエディタ -テキストデータ(青空文庫)の配布 ---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] (今日の授業で使います) ---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/134600/aozoradoc2.zip]](青空文庫全テキスト・参考) --ダウンロードしてUSBメモリに展開(解凍)してください -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する --サブフォルダのgrep ***ショートカットキー [#da449f25] -[[授業資料/覚えておきたいショートカットキー]] ***正規表現を使ってみる [#u471d57b] -文字クラス --例:読[まみむめもん] ---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字 ***正規表現とは [#d216d4e0] -''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]] --文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する --エディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている) --記号はすべて半角 --記号そのものを表す場合には\でエスケープする(特殊な意味を打ち消す) 例:1\+2 -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの補集合(それ以外の文字)[^ ] **2016/04/14 -次回以降、USBメモリ(少なくとも2GB以上)を持ってきてください。 ***「コーパス」について [#k44345b6] :狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。 --現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ) :広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。 --さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録) --Web上のデータ ---検索サイトの利用 ---WAC(Web as Corpus) ***紙の資料からコーパスまで +(紙の)本文 +(紙の)総索引(コンコーダンス) +電子テキスト +構造化テキスト +形態論情報付きコーパス ***テキストファイル -テキストデータとはどんなものか --[[授業資料/テキストデータとは]] --[[授業資料/テキストデータ紹介]](広義のコーパス) -テキストエディタ --[[授業資料/テキストエディタ]] -サクラエディタのダウンロードとインストール --[[サクラエディタのダウンロード:sakura2.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sakura2.zip&refer=%C5%EC%B5%FE%B3%B0%C2%E72016%2F%C1%B0%B4%FC]] ---(参考) サクラエディタホームページ:http://sourceforge.net/projects/sakura-editor/ -zipファイルの展開(解凍) --解凍しないままでも開けるが必ず解凍すること -テキストエディタの設定 --行の折り返し --行番号表示 ---スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号) -練習用サンプルデータ(漱石+芥川) --[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]] **2016/04/07 ***イントロダクション/日本語コーパスの紹介 -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/ -コーパスとは --[[国立国語研究所コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]] --[[形態素解析辞書UniDic>http://sourceforge.jp/projects/unidic/]] -デモ -「現代日本語書き言葉均衡コーパス(BCCWJ)」 --BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]] --BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]] --[[Web茶まめ>http://chamame.ninjal.ac.jp]] -Excelによる集計(ピボットテーブル) -シラバス確認 --この授業の目的 --授業の進め方 --評価方法