東京外大2017

Japan Studies 1:コーパス日本語学入門

  • 春学期・木曜4限
  • ogiso@ogiso.net ←@を@に直してください

レポートについて

  • 〆切:7月13日(木)
  • 枚数:A4用紙で4枚以上〜20枚以下
  • メールで提出

Active Learning (II)

  • ※当日参加できない人もWeb上で受講が可能になりました。詳しくは小木曽までメールで連絡して下さい。

2017/07/06

Active Learning (II)について

レポートテーマに関する調査と質問対応

Active Learning (I) 6/29〆切

レポートテーマの選定とコーパスの予備調査

  • 中納言で利用可能なコーパスを使ったレポートテーマを検討し、その予備調査としてコーパスを検索し、検索結果・集計表を作成して、レポートテーマとともにメールで送付しなさい。

2017/06/29

Active Learningについて

コロケーション強度の話

レポートテーマに関する調査と質問対応

2017/06/22

ランダムサンプリング調査(Excelでの集計・補足)

  • 大量に用例があり、調査内容からすべて対象にできない場合
  • ランダムに並べ替え→先頭n例を調査対象に
    • ランダムな数字の列: =RAND()
    • ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される

出現サンプル数の調査(重複の削除)

  • 用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合
    • たとえば一人称代名詞など、サンプル毎に偏って多数現れる語の調査
    • 「データ」→「重複の削除」

VLOOKUPの利用

  • 自作の辞書テーブルのようなものを使って用例を集計する
  • VLOOKUP関数
  • VLOOKUPを使った調整頻度の計算

【補足】Excelの文字列関数で前後文脈を整える

  • 後文脈の「#」より後を消す(「#」がない場合はそのまま)
    =IF(ISERROR(SEARCH("#",<後文脈>)),<後文脈>,LEFT(<後文脈>,SEARCH("#",<後文脈>)))
  • 前文脈の「#」以前を消す(「#」がない場合はそのまま)*1
    =RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("#"&<前文脈>,"#","~",LEN("#"&<前文脈>)-LEN(SUBSTITUTE("#"&<前文脈>,"#",""))),1)-1))

中納言状での他のコーパスの利用

  • 日本語歴史コーパス CHJ
  • 日本語話し言葉コーパス CSJ
  • 多言語母語の日本語学習者横断コーパス I-JAS
  • 名大会話コーパス

2017/06/15

Excelの文字列関数とIF関数

  • 例:ジャンル(NDC)の整理
    • 先頭の文字を取り出す(NDCの一次区分(=類))
      • =LEFT(<ジャンルのセル>,1)
    • スラッシュで区切られた最初の部分(ジャンルの大分類)
      • =LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
  • 集計用に用意した列で文字列処理関数を利用する
    • LEFT
    • RIGHT
    • MID
    • LEN
    • SEARCH
    • SUBSTITUTE
  • 条件わけ:IF
  • エラー対応:IFERROR
  • 応用例:品詞の大分類を使う
    • =IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)

BCCWJ利用の落とし穴

  • BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
    • レジスターによって母集団の年が違っている
      • レジスターの偏りを年代の偏りと勘違いしないこと
    • 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ
  • もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない→調整頻度の計算
    • cf.人口あたりの事故件数,1平方キロあたりの…etc.

調整頻度の計算

  • 粗頻度を総語数で割る
    • レジスターごとの語数データ:中納言ページの「語数について」からExcelでダウンロードできる
      • 語数ファイルをピボットテーブルで集計して分母に
  • 調整頻度には100万語あたりの頻度(pmw)がよく使われる
    • 粗頻度/総語数*1000000
      • 数字が小さくなりすぎないようにするため
  • ※割合の違いを比較するだけなら調整頻度を出す必要はない。

2017/06/08

  • (配布資料)「中納言」検索課題
    • 定型表現の揺れ
    • 表記(交ぜ書き・拡張新字体・印刷標準字体)
    • 語彙(抽象概念の尺度となる形容詞)
    • 文法(格助詞の選択)

複数の検索結果の結合

  • 例:蒲公英・向日葵・菫

ショートカットキーを活用すると便利

  • Ctrl+End ファイルの末尾/表のいちばん右下に移動
  • Shift+Ctrl+End 〃範囲を選択
  1. 表をコピー
    • Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl+End, Ctrl+C
  2. コピーした表を既存の表の下に貼り付け
    • Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home

集計用の列を自分で用意する

  • 例:表記(ひらがな・かたかな・漢字)別集計
  • 例:用法分類

2017/06/01

質問対応

  • 自分の研究テーマのための検索方法の相談

「中納言」検索結果のダウンロードとExcelでの利用(復習)

  1. ダウンロード
  2. アーカイブの展開(解凍)
  3. Excelでインポート

Excelの基礎

  • 並べ替え
    • 反転前文脈の使い方
  • フィルタ
    • テキストフィルタ

【重要】ピボットテーブルの使い方

  • ピボットテーブル
  • ピボットグラフ

複数の検索結果の結合

  • 例:蒲公英・向日葵・菫

ショートカットキーを活用すると便利

  • Ctrl+End ファイルの末尾/表のいちばん右下に移動
  • Shift+Ctrl+End 〃範囲を選択
  1. 表をコピー
    • Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl+End, Ctrl+C
  2. コピーした表を既存の表の下に貼り付け
    • Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home

集計用の列を自分で用意する

  • 例:表記(ひらがな・かたかな・漢字)別集計
  • 例:用法分類

2017/05/25

質問対応

  • 自分の研究テーマのための検索方法の相談

(復習)形態論情報を使った検索

  • 資料「中納言の使い方」参照

検索条件式の利用

キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
 AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
 WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"

2017/05/18 休講

  • 出張のため休講とします。

2017/05/11

前回の単位分割課題

形態論情報を使ったコーパスの検索

  • 配布資料「中納言の使い方」参照
    • この資料は次回以降も使いますので持ってきてください。

2017/04/27

コーパスの形態論情報:短単位と長単位

  • 配布資料参照

品詞体系と見出し語の階層

  • BCCWJ,CHJはUniDicの品詞体系にもとづく

形態論情報を使った検索

(参考)Web茶まめ

http://chamame.ninjal.ac.jp/

2017/04/20

「中納言」オンライン利用申込み

コーパスの設計とサンプリング

  • (スライド参照) 第2回コーパスの設計とサンプリング
  • 均衡コーパス(Balanced corpus)
    • 「バランスがとれている」「代表性」とは?
    • コーパスの母集団の設定とサンプリング
    • BCCWJのサブコーパス
    • 可変長と固定長
  • 著作権をめぐる問題

参考リンク

2017/04/13

「コーパス」について

狭義のコーパス
言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
  • 現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
広義のコーパス
コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。
  • さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
  • Web上のデータ
    • 検索サイトの利用
    • WAC(Web as Corpus)
  • この授業で扱うのは主に狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス(BCCWJ)」が中心
  • 日本語コーパス以前のデータとBCCWJの違いは
    • cf. スライド

紙の資料からコーパスまで

  1. (紙の)本文
  2. (紙の)総索引(コンコーダンス)
  3. 電子テキスト
  4. 構造化テキスト
  5. 形態論情報付きコーパス

現代日本語書き言葉均衡コーパス(BCCWJ)とは

  • BCCWJについて、まず最小限のことを説明します。
  • BCCWJ少納言
    • 登録不要
    • 文字列検索のみ
    • 500例まで表示
  • BCCWJ中納言
    • 要登録
    • 形態論情報を使った検索
    • 全件(一度に最大10万例まで)ダウンロード可

「現代日本語書き言葉均衡コーパス(BCCWJ)」

「中納言」オンライン利用申込み

2017/04/06

イントロダクション/日本語コーパスの紹介

  • デモ
    • 「現代日本語書き言葉均衡コーパス(BCCWJ)」
    • Web茶まめ
    • Excelによる集計(ピボットテーブル)
  • シラバス確認
    • この授業の目的
    • 授業の進め方
    • 評価方法

*1 「#」が複数ある場合の処理があるので難しい。「~」は前文脈に決して出現しない文字を指定

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS