成蹊2018
- 日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術(テキストエディタ・正規表現・表計算ソフト・文書の構造化)を学びます。
- 後期2限
- 7号館3階 301パソコン教室
- ogiso@ogiso.net ←@を@に直してください
日本語日本文学のためのコンピュータ
2018/12/14 レポートテーマ確認・「中納言」検索結果の集計つづき
レポートテーマの確認
- パソコン・ネットだけでは十分な調査はできません。図書館を利用してください。(参考文献は明記すること)
- 最低限『日本国語大辞典』等のしっかりした辞典にあたっておくこと。
レポートテーマ予備調査結果発表(ライトニングトーク)について
複数の検索結果の結合
ショートカットキーを活用すると便利
- Ctrl+End ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End 〃範囲を選択
- 表をコピー
- Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl+End, Ctrl+C
- コピーした表を既存の表の下に貼り付け
- Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
調整頻度の計算
- 粗頻度を総語数で割る
- レジスターごとの語数データ:中納言ページの「語数について」からExcelでダウンロードできる
- 調整頻度には100万語あたりの頻度(pmw)が比較的よく使われる
- ※割合の違いを比較するだけなら調整頻度を出す必要はない。
- ※ひまわりの検索結果でも同じことだが、語数の代わりに文字数で代用する。
現代語との比較 ―BCCWJ中納言
- 「気持ち」「心持」を例に、青空文庫の集計結果と比較
- BCCWJ内部でも生年による違いがある
2018/12/7 CHJ「中納言」検索結果の集計
「中納言の使い方」つづき
検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
「中納言」検索結果のダウンロードとExcelでの利用
- ダウンロード
- Excelでインポート
レポートテーマについて(予告)
- 授業で紹介したエディタやひまわり、中納言、表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
- 例:作家ごとの言葉の使い方の違い
- 例:類義語の意味の違い
- 例:語の用法の変化
- 例:語形・(表記)のゆれ
- などなど
2018/11/30 CHJ中納言の使い方
「中納言」の利用:形態論情報を使った検索
- 配布資料「『中納言』の使い方」
- この資料は次回以降も使いますので必ず持ってきてください。
形態論情報を使った検索
品詞体系と見出し語の階層
- BCCWJ,CHJはUniDicの品詞体系にもとづく
2018/11/23(欅祭)
2018/11/16 検索結果のExcelによる集計(2)
分類用の列を作って集計する
サンプリング調査
- 大量に用例があり、調査内容からすべて対象にできない場合
- ランダムに並べ替え→先頭n例を調査対象に
- ランダムな数字の列: =RAND()
- ランダムな数字の列をコピーして値として貼り付けると数字が固定される
ひまわりによる検索・補足
『日本語歴史コーパス』と「中納言」
「日本語歴史コーパス(CHJ)」
- 中納言
- 要登録
- 単語の情報(形態論情報)が付いているのが特長
- 一度に最大10万例までダウンロード可
「中納言」の利用:形態論情報を使った検索
2018/11/9 検索結果のExcelによる集計
Excelの基本操作
- 並べ替え(ソート)
- フィルター(絞り込み)
- テキストフィルター
- 多重フィルター(複数の条件指定)
- ピボットテーブル★
ひまわり検索結果をExcelで扱う†
- ピボットテーブルとピボットグラフ
- 例:「それきり」「それぎり」
- 例:「~的な」「~的の」
生年代による集計(通時的変化)
- 文字列処理関数の利用
- 例: =left(<文字列>,<文字数>)
- 生年代: =left(<生年月日が入っているセル>,3)*10
- 生年月日データの書式について
- 「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
- 1900年以前の年月日は文字列、それ以降は日付として認識される
- Himawariで「すべて選択」後、「すべて選択」「コピー(列名含む)」をする
- Excelで生年月日の列が貼り付けられることになる列(NとO)を丸ごと選択し、書式を「文字列」とする
- Excelに貼り付ける
2018/11/2 全文検索システム「ひまわり」
- 27日分検索課題(seikei portal)について
「青空文庫パッケージ」のインストール
- 青空文庫パッケージのダウンロード
- ひまわり用「青空文庫」パッケージのダウンロードページから「青空文庫パッケージ」をUSBメモリに直接ダウンロードして保存(サイズが大きいのでPCにダウンロードできない)
- USBメモリにコピーしたフォルダ内のhimawari.exeを起動
- Himawari画面上にドラッグ&ドロップ*1
- しばらく待つと完了(数分から10分程度はかかる)
- 要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する
「ひまわり」とその使い方
ひまわり検索結果をExcelで扱う†
2018/10/27(金曜授業実施日) 休講
2018/10/26 やや高度な正規表現
検索文字列の中での後方参照(復習)
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
- (..)\1\1
- (...)\1
最長一致の原則(greedy matching)†
- 正規表現は、パターンが一致する最も長い範囲にマッチする
- 例:あ+ → 【\1】
- ああああああああ → 【ああああああああ】
そのせいで…
- 例:「(.+)」 → 【\1】
- 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
- 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】 のように書かなければならない
- 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
- よりかんたんに指定するには(最短一致,ものぐさ指定)
- 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける
正規表現に関する参考資料†
#amazon(4873114500)
#amazon(4873113598)
全文検索システム「ひまわり」について
「ひまわり」の導入
正規表現小テスト
2018/10/12 正規表現
テキストエディタ・正規表現(文字クラス)の復習
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定(補集合)[^ ]
- 繰り返し ? + *
- グループ化 ()
- or(論理和) |
- 文頭 ^、文末 $
正規表現の応用†
- カタカナ語
- 送りがなの揺れ(行う/行なう)
- 会話文中("「"で始まる文中)の用例を検索する
- 同一文中での共起
タグ付き正規表現
- 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
- 次のように置換するととんでもないことに…
- 検索文字列:走[らりるれろっ]
- 置換文字列:★走[らりるれろっ]
- タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)を使う
- 授業資料/タグつき正規表現
検索文字列の中での後方参照†
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
2018/10/05 テキストエディタの利用
- テキストデータ(青空文庫)の配布
- ダウンロードしてUSBメモリに展開(解凍)してください
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
- サブフォルダのgrep
ショートカットキー†
grepと置換でKWIC(CSVファイル)を作る(簡易版)†
- CSVファイルとは:テキストファイルで表を表現する
用語:CSVファイル
- KWIC:KeyWord In Context
正規表現を使ってみる†
- 文字クラス
- 例:読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
正規表現とは†
- 正規表現 >用語
- 文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する
- エディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている)
- 特殊な文字(メタ文字)はすべて半角
2018/09/28 テキストデータとテキストエディタ
- USBメモリの準備
- 次回の授業からUSBメモリを使います。2GB(できれば4GB)以上の空きのあるUSBメモリを用意してください。
テキストデータ
- すべての基本、文字が並ぶだけのデータ
- TXT,CSV,HTM・・・
テキストエディタ†
- テキストエディタの設定
- 行の折り返し
- 行番号表示
- スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号)
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
- サブフォルダのgrep
2018/09/21
イントロダクション
- デモ
- テキストエディタとgrep
- 全文検索システムひまわり
- Excel(ピボットテーブル)
- 形態素解析:Web茶まめ
- シラバス確認
- シラバス(PDF)
- この授業の目的
- 授業の進め方
- 評価方法
授業で利用する主なソフトウェア†