[[東京外大2017]]
*Japan Studies 1：コーパス日本語学入門
-春学期・木曜4限
-ogiso＠ogiso.net ←＠を@に直してください
----
-[[コーパス検索アプリケーション「中納言」 https://chunagon.ninjal.ac.jp/>https://chunagon.ninjal.ac.jp/]]
***レポートについて
-〆切：7月13日(木)
-枚数：A4用紙で4枚以上～20枚以下
-メールで提出
**Active Learning (II)
国語研見学？
**Active Learning (I) ''6/29〆切''
***レポートテーマの選定とコーパスの予備調査
-中納言で利用可能なコーパスを使ったレポートテーマを検討し、その予備調査としてコーパスを検索し、検索結果・集計表を作成して、レポートテーマとともにメールで送付しなさい。
**2017/06/29
***コロケーション強度の話
-共起する語(AとB)を評価するとき、単純な用例数だけでは危険
--もともと頻度が高いもの同士のつながりは多くて当たり前だから
コロケーション強度をはかるスコアには様々なものがあり、それぞれに特徴がある
-ダイス係数
--＝2×（ABの用例数／（Aの用例数＋Bの用例数））
---=2*B5/(C$2+C5)
-tスコア
--＝（ABの用例数 - （Aの用例数×Bの用例数／コーパスの総語数））／√ABの用例数
---=B5-(C$2*C5/C$1)/SQRT(B5)
-MIスコア（相互情報量）
--＝log[2] (ABの用例数×コーパスの総語数)／(Aの用例数×Bの用例数)
---=LOG((B5*C$1)/(C$2*C5),2)
（例）
-例：「玉葱」と共起する（3語以内）動詞の場合
--AB＝ 「玉葱」～「炒める」の用例数：46
--A＝「炒める」の用例数：2069
--B＝「玉葱」の用例数：2087
--ダイス係数=2*(46/(2069+2087))=0.0221
-[[サンプルデータ collocation.xlsx>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=collocation.xlsx&refer=%C5%EC%B5%FE%B3%B0%C2%E72016%2F%C1%B0%B4%FC]]
それぞれの数値の調べ方
-※用例数を求めるだけでいいが、「中納言」は用例を取得するためのツールであるため、複数の語の用例数を求めるのに手間がかかる
--BCCWJの語彙表を使えば個々の語の検索は不要 http://pj.ninjal.ac.jp/corpus_center/bccwj/freq-list.html
--検索する場合は、語彙リストをエディタで整形し、検索条件式で一括検索する方法もある
-「コーパスの総語数」は「語数について」のページを参照
-【参考資料】[[助動詞と上接動詞のコロケーション>https://dl.dropboxusercontent.com/u/134600/20140922_collocation_CHJ.pdf]]
**2017/06/22
//-[[yahari_kwic-1800150.xlsx>https://u134600.dl.dropboxusercontent.com/u/134600/yahari_kwic-1800150.xlsx]]
***ランダムサンプリング調査(Excelでの集計・補足)
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される
***出現サンプル数の調査（重複の削除）
-用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合
--たとえば一人称代名詞など、サンプル毎に偏って多数現れる語の調査
--「データ」→「重複の削除」
***VLOOKUPの利用
-自作の辞書テーブルのようなものを使って用例を集計する
-[[VLOOKUP関数>授業資料/vlookup関数]]
-VLOOKUPを使った調整頻度の計算
***【補足】Excelの文字列関数で前後文脈を整える
--後文脈の「#」より後を消す（「#」がない場合はそのまま）
=IF(ISERROR(SEARCH("#",<後文脈>)),<後文脈>,LEFT(<後文脈>,SEARCH("#",<後文脈>)))
--前文脈の「#」以前を消す（「#」がない場合はそのまま）((「#」が複数ある場合の処理があるので難しい。「~」は前文脈に決して出現しない文字を指定))
=RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("#"&<前文脈>,"#","~",LEN("#"&<前文脈>)-LEN(SUBSTITUTE("#"&<前文脈>,"#",""))),1)-1))
***中納言状での他のコーパスの利用
-日本語歴史コーパス CHJ
-日本語話し言葉コーパス CSJ
-多言語母語の日本語学習者横断コーパス I-JAS
-名大会話コーパス
**2017/06/15
***Excelの文字列関数とIF関数
-例：ジャンル（NDC）の整理
--先頭の文字を取り出す（NDCの一次区分（＝類））
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分（ジャンルの大分類）
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ：IF
-エラー対応：IFERROR
-応用例：品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のものだけ
-もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない→調整頻度の計算
--cf.人口あたりの事故件数，１平方キロあたりの…etc.
//--データ：語彙素「矢張り」 [[kwic-yahari.zip>https://www.dropbox.com/s/33jkbf7k24hlwyw/kwic-yahari.zip]]
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数について」からExcelでダウンロードできる
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）がよく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
**2017/06/08
-（配布資料）「中納言」検索課題
--定型表現の揺れ
--表記（交ぜ書き・拡張新字体・印刷標準字体）
--語彙（抽象概念の尺度となる形容詞）
--文法（格助詞の選択）
***複数の検索結果の結合
-例：蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例：表記（ひらがな・かたかな・漢字）別集計
-例：用法分類
**2017/06/01
***質問対応
-自分の研究テーマのための検索方法の相談
***「中納言」検索結果のダウンロードとExcelでの利用（復習）
+ダウンロード
+アーカイブの展開（解凍）
+Excelでインポート
***Excelの基礎
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合
-例：蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例：表記（ひらがな・かたかな・漢字）別集計
-例：用法分類
**2017/05/25
***質問対応
-自分の研究テーマのための検索方法の相談
***(復習)形態論情報を使った検索
-資料「中納言の使い方」参照
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
**&color(red){2017/05/18 ''休講''};
-出張のため休講とします。
**2017/05/11
***前回の単位分割課題
-[[短単位・長単位分割の解答>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=LSUW_sample_OW1X_00003.pdf&refer=%C5%EC%B5%FE%B3%B0%C2%E72017%2FJapanStudies1]]
***形態論情報を使ったコーパスの検索
-配布資料「中納言の使い方」参照
--この資料は次回以降も使いますので持ってきてください。
**2017/04/27
***コーパスの形態論情報：短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
***形態論情報を使った検索
-例
***（参考）Web茶まめ
http://chamame.ninjal.ac.jp/
**2017/04/20
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
***コーパスの設計とサンプリング
//-''（[[スライド>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=2017_%C2%E83%B2%F3%A5%B3%A1%BC%A5%D1%A5%B9%A4%CE%C0%DF%B7%D7%A4%C8%A5%B5%A5%F3%A5%D7%A5%EA%A5%F3%A5%B0.pptx&refer=%C5%EC%B5%FE%B3%B0%C2%E72017%2FJapanStudies1]]参照）'' 第2回コーパスの設計とサンプリング
-''（スライド参照）'' 第2回コーパスの設計とサンプリング
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***参考リンク
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://www.hit.uib.no/icame/brown/bcm.html]]
http://www.hit.uib.no/icame/brown/bcm.html
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>http://pj.ninjal.ac.jp/corpus_center/bccwj/index.html]]
--[[現代日本語書き言葉均衡コーパス：サンプリング>http://pj.ninjal.ac.jp/corpus_center/bccwj/sampling.html]]
**2017/04/13
***「コーパス」について [#k44345b6]
:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。
--さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
--Web上のデータ
---検索サイトの利用
---WAC（Web as Corpus）
-この授業で扱うのは主に狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」が中心
-日本語コーパス以前のデータとBCCWJの違いは
--cf. スライド
***紙の資料からコーパスまで
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス
***現代日本語書き言葉均衡コーパス（BCCWJ）とは
-BCCWJについて、まず最小限のことを説明します。
-[[BCCWJ少納言>http://shonagon.ninjal.ac.jp]]
--登録不要
--文字列検索のみ
--500例まで表示
-[[BCCWJ中納言>http://chunagon.ninjal.ac.jp]]
--要登録
--形態論情報を使った検索
--全件（一度に最大10万例まで）ダウンロード可
***「現代日本語書き言葉均衡コーパス（BCCWJ）」
-BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
**2017/04/06
***イントロダクション／日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]]
-デモ
--「現代日本語書き言葉均衡コーパス（BCCWJ）」
---BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
---BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
--Excelによる集計（ピボットテーブル）
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
