九州大学：国語学演習 III / 日本語史資料研究 III†
コーパス日本語学†
- 質問コーナー（授業のことで質問があったら下記に記入してください。次の授業時に回答します。）
期末レポートについて†
- 授業で紹介したコーパスや調査手法を活かして、日本語の研究（古典語や古典文学作品の研究、他言語との対照研究を含む）として自身で設定したテーマについて論じなさい。
- 〆切：8月25日
- 分量：A4用紙で3～10枚
- 提出先：Moodleの下記アドレスから提出
7月31日（最終回） 質問対応／Wordでレポートを書く†
Wordでレポートを書く†
文書の構造化とWordの使い方（レポートの書き方）
- 文書の構造化*
- スタイルと見出し
- ナビゲーション ウィンドウ（見出しマップ）の使い方
- 章・節番号
- 図表の貼り込み*
- 「形式を選択して貼り付け」
- 図表番号とキャプション
- 脚注
- 相互参照
- ページ番号*
- PDFとして保存（ブックマークを付加）*
レポートの構成について†
7月24日（第12回） レポートに関する質問／テキストエディタと正規表現によるデータの整形†
Excelで中納言検索結果の列を丸ごとコピーし、エディタで整形した後、Excelに貼り付ける
- 前後文脈の整理（キーが現れた文以外を消す）
- 値の一部を取り出す
※慣れると文字列関数よりも早くて便利
テキストデータについて†
- テキストファイルの拡張子：TXT,CSV,HTM…
テキストエディタ†
準備：VS Codeのインストールと設定†
- VS codeのインストール
- 拡張機能 Japanese Language Packの追加
- ファイルオープン時にエンコーディングを自動判別するよう設定
テキストエディタの基本操作†
ショートカットキー†
正規表現とは†
- 正規表現 ＞用語
- 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
- テキストエディタでは置換・検索・grepで利用できる （エディタ以外にもさまざまなアプリケ－ションやプログラミング言語で利用されている）
- 特殊な文字（メタ文字）はすべて半角
正規表現を使ってみる†
- 文字クラス
- 例：読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定（補集合）[^ ]
- 繰り返し ? + *
- グループ化 ()
- or（論理和） |
- 文頭 ^、文末 $
正規表現の応用†
- カタカナ語
- 送りがなの揺れ（行う／行なう）
- 会話文中（"「"で始まる文中）の用例を検索する
- 同一文中での共起
7月17日 海の日†
7月10日 休講†
7月3日（第11回）コロケーション強度／レポートテーマについて†
コロケーション強度†
6月26日（第10回）VLOOKUP関数／分類語彙表・語彙頻度表の利用†
VLOOKUP関数の利用†
辞書引き集計†
自分で作った（または誰かが用意してくれた）辞書データ（コーパスの見出し語に対する追加情報）を利用する
分類語彙表番号（意味分類）の付与†
- 注意
- VLOOKUPで取得する場合、多義語は先頭の分類語彙表番号になる
- 分類語彙表に載っていなくて番号がつかないものもある（見出し語サイズの違いも=分類語彙表は短単位ではない）
キー: 品詞 LIKE "名詞%" AND 前方共起: 語彙素="可愛い" ON 1 WORDS FROM キー
=VLOOKUP(<語彙素ID>,BunruiNo_LemmaID!$A$1:$B$65044,2,FALSE)
コーパスの語彙表とその利用†
※サイズがとても大きいので注意（オンライン授業中に実習するのは難しいかも）
6月19日（第9回）Excel関数の利用†
期末レポートテーマ案：今週中に記入してください。
ランダムサンプリング調査†
- 大量に用例があり、調査内容からすべて対象にできない場合
- ランダムに並べ替え→先頭n例を調査対象に
- ランダムな数字の列： =RAND()
- ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される
Excelの文字列関数†
集計に必要な情報をフィールドから切り出すことで集計に使う
- （参考）Mac版Excelと文字種
- フィルタのオプションで平仮名と片仮名が区別されないので、文字コードで区別する
- =unicode(文字列) ：文字列の先頭文字の文字コード（Unicode、10進数）を返す
出現サンプル数の調査（重複の削除）†
用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合
- たとえば同一サンプル内での繰り返しが多いものを調査するとき（例：一人称代名詞など）
- 例：「俺・僕・私」
「中納言」インラインタグ機能の利用†
- 前後文脈に埋め込んだタグから、必要な情報を取り出して利用
6月12日（第8回） 調整頻度の計算†
BCCWJ利用の落とし穴†
- BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
- レジスターによって母集団の年が違っている
- 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ
- もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない
- →調整頻度の計算
- cf.人口あたりの事故件数，１平方キロあたりの…etc.
- BCCWJの語数
- 短単位語数表をピボットテーブルで集計
調整頻度（pmw）†
- 調査対象がどのくらい出てきやすいかを比較するときには、どのコーパスでもコーパスのサイズを考慮して調整頻度で測る必要がある。
- 特にサイズが異なる単位で集計して比較する際には必須。
- 割合を比較する（％で見る）だけなら（これまでに見てきたように）調整頻度を出す必要はない。
- 粗頻度を総語数で割る
- レジスターごとの語数データ：中納言ページの「語数について」のリンク先からExcel形式でダウンロードできる
- 語数ファイルをピボットテーブルで集計して分母にする
- 調整頻度には100万語あたりの頻度（pmw）がよく使われる
各コーパスの語数表†
クロス集計表の調整頻度をまとめて計算†
6月5日（第7回） Excelによる検索結果の集計(2)†
ピボットテーブルの使い方（復習）†
- ダウンロード
- ダブルクリックしてExcelで開く
- ピボットテーブル
複数の検索結果の結合†
ショートカットキーを活用すると便利
- Ctrl*3+End*4 ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End*5 〃範囲を選択
- 表をコピー
- Ctrl+Home*6（表の左上へ移動）, ↓（列名は選択しないようにするため1行下へ）,Shift+Ctrl+End, Ctrl+C（コピー）
- コピーした表を既存の表の下に貼り付け
- Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け）
一度にピボットテーブルで集計できるように一つの表にまとめる
- ※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される）
複数の検索結果を一つにまとめる別の方法†
- 「検索条件式ごとに出力ファイルを分割する」を外して検索条件式で一度にダウンロード（ZIPファイルの中のcsvファイルを利用）
キー: 語彙素="ビール";
キー: 語彙素="ワイン";
キー: 語彙素="ブランデー";
キー: 語彙素="ウイスキー";
キー: 語彙素="焼酎";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
中納言検索課題†
5月29日（第6回） 「中納言」の使い方(3)／Excelによる検索結果の集計(1)†
- 動詞「食べる」の前方3語以内にくる名詞
- 動詞「食べる」の前方3語以内にくる「を」で格表示された名詞
位置情報と用例へのパーマリンク†
- 位置検索
- サンプルID,開始位置*7のセットでコーパス上の用例の位置を一意に指定できる
- 位置検索での区切り記号はカンマのほかタブやスペースでも可
検索条件式の利用†
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
↓これだけでもいい（WITH OPTIONS 以下は式で指定がない場合、検索画面での設定に従う）
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
OR検索†
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WORDS FROM キー
周辺語検索†
- 「美しい」の前後3語以内に出現する名詞（平安仮名文学）
キー: 品詞 LIKE "名詞%"
AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM キー
IN subcorpusName="平安-仮名文学" AND core="true"
検索結果のダウンロードとExcelでの利用†
- 並べ替え（ソート）
- フィルター（絞り込み）
- テキストフィルター
- 多重フィルター（複数の条件指定）
- ピボットテーブル★
5月22日 休講†
5月15日（第5回）コーパス検索アプリケーション「中納言」(2)†
5月7日（第4回）コーパスの形態論情報(2)／コーパス検索アプリケーション「中納言」(1)†
品詞体系†
- BCCWJ・CHJはUniDicの品詞体系にもとづく（BCCWJのために開発されたのがUniDic）
形態素解析を試してみる†
形態素解析とその仕組み†
コーパス検索アプリケーション「中納言」(1)†
5月1日（第3回）コーパスの形態論情報／（コーパスの設計（2））†
コーパスの形態論情報（1）†
- コーパス検索アプリケーション「中納言」と短単位と長単位
※今回は早めに終わります。CEJCの設計については次回までに下記の参考動画を見ておいてください。
4月24日（第2回）コーパスの設計†
コーパスとは†
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
- さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
- Web上のデータ
- 検索サイトの利用
- WAC（Web as Corpus）
- この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」「日本語歴史コーパス（CHJ）」「昭和・平成書き言葉コーパス（SHC）」「日本語日常会話コーパス（CEJC）」
「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成【省略版】†
- 均衡コーパス（Balanced corpus）
- 「バランスがとれている」「代表性」とは？
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
参考リンク†
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス（BCCWJ）
「日本語歴史コーパス」（CHJ）の構成†
- 残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難
- 近世以前
- 残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい
- 近世（後期）以降
- 偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）
- 『日本語歴史コーパス』の中身
- 中世以前は重要な資料をまるごと対象に
- 近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング
近代語コーパスの場合†
- 近代雑誌コーパス（現在はCHJの一部）
- 多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
- 発行年での大まかなサンプリング
- その後の雑誌コーパスも8年おきに収録
- 明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
- 近代小説
「昭和・平成書き言葉コーパス」（SHC）の構成†
- CHJの後を受けて現代までを通時的に研究するためのコーパス。1933年以降、8年おき11か年分（1933・1941・1949・1957・1965・1973・1981・1989・1997・2005・2013）を収録。
- 雑誌
- 1933～1957 年刊の『中央公論』と1965～2013 年刊の『文芸春秋』（8年おき11か年分）
- ベストセラー書籍
- 1933年以降、8年おき11か年のベストセラー書籍
- 新聞
- 1933年以降、8年おき11か年の『読売新聞』奇数月2日の朝刊1冊
4月17日（第1回）イントロダクション/日本語コーパスの紹介†
イントロダクション†
授業内容等の確認†
「中納言」アカウントについて†
- 「授業アカウント」について
- 「中納言」オンライン利用申込み
授業で利用する主なソフトウェア・Webアプリケーション（予定）†
授業内容デモ†
- コーパスの利用
- Excelによる集計（ピボットテーブル）
- 形態素解析
- テキストエディタと正規表現
（参考動画）†
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
