成蹊2015/日本語日本文学のためのコンピュータ

成蹊2015

• 日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術（テキストエディタ・正規表現・表計算ソフト・文書の構造化）を学びます。　
• 前期2限
• ogiso＠ogiso.net　←＠を@に直してください

期末レポートについて

• 締切：7月31日（金）
• 提出先：メールで直接送付（必ず返信を確認すること）
• 分量：A4用紙で3～10枚
• メール・Wordファイルの両方に氏名・学籍番号を明記すること
  • Wordファイルのサイズが大きくなりすぎる場合には、PDFファイルとして保存して送ってください

2015/07/17　最終回

• レポート完成に向けて作業を進めながら積極的に質問してください。

Wordでレポートを書く

• 文書の構造化*
  • スタイルと見出し
  • ナビゲーション ウィンドウ（見出しマップ）の使い方
  • 章・節番号
• 図表の貼り込み*
  • 「形式を選択して貼り付け」
  • 図表番号とキャプション
• 脚注
  • 脚注と文末脚注
• 相互参照
  • 節番号、図表番号と相互参照
  • 目次、図表目次

2015/7/9　レポートテーマに関する調査

小レポート講評

• 小レポートの調査結果に基づき、各自のレポートテーマについて調査してください。
• 個別に見て回ります。積極的に質問してください。

現代語との比較 ―BCCWJ少納言

• 1億語の「現代日本語書き言葉均衡コーパス」の文字列検索
• http://www.kotonoha.gr.jp/shonagon/

調整頻度の計算

• 作家ごと、年ごとに文章量が大きく違うので、調整頻度に直して比較する
  • 語数はわからないので文字数を使う（たとえば10000文字当たり何回出現するか）

---

6/26, 7/3の休講の代替措置について

1. 6/26までに期末レポートに向けた調査テーマを決め、メールで連絡する
   • どのような語を調査するのかできるだけ具体的に書くこと
   • テーマについて質問がある場合や、複数のテーマを検討中の場合にはメールで相談すること
2. 7/6までに上記のテーマの調査結果（小レポート）をメールに添付して送付する
   • 小レポートにはコーパスの調査結果（検索結果をピボットテーブルで集計したものなど）を必ず含めてください。
   • Wordではファイルサイズが大きくなるため、PDF形式で保存したものを送ってください。

2015/6/19

レポートテーマについて

• 全員に聞きます。

• 例：「それぎり」と「それきり」

ひまわりの検索結果をピボットテーブルで集計（続き）

• 分類用のフィールドを作って集計する
  • 例：「新聞紙」の意味・用法の変化

• サンプリング調査
  • 大量に用例があり、調査内容からすべて対象にできない場合
  • ランダムに並べ替え→先頭n例を調査対象に
    • ランダムな数字の列： =rand()
    • ランダムな数字の列をコピーして値として貼り付けると数字が固定される

2015/6/12　Excelによる集計

ひまわりのアップデート

• Ver. 1.5.3公開
  • 列名入りでのコピーに対応

生年月日データの書式について

• 「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
  • 1900年以前の年月日は文字列、それ以降は日付として認識される

1. Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
2. Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
3. Excelに貼り付ける

関数の利用

• 文字列処理関数
  • 例： =left(<文字列>,<文字数>)
    • 生年代： =left(<生年月日が入っているセル>,3)*10

振り仮名の検索

ひまわりで利用可能なデータについて†

• 現代語のデータ
  • 国会会議録データ
  • 法令データベース
  • 口コミサイト
• 近代語のデータ
  • 太陽コーパス
  • 近代女性雑誌コーパス
  • 明六雑誌コーパス
  • 国定高等小学読本
• 古典文学作品のデータ

レポートについて

• レポートテーマ確認（第１回）来週

2015/6/5　ひまわりとExcel

• 6/26, 7/3休講について

ひまわり検索結果をExcelで扱う†

• 例：
  • 「～的の」「～的な」
  • 「気持ち」「心持ち」

• 列名

  前文脈

  キー

  後文脈

  作品名

  副題

  著者

  役割

  初出

  分類番号

  文字遣い

  作品ID

  人物ID

  生年月日

  没年月日

  文字数

Excelの基本操作

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル★
  • ピボットグラフ

レポートテーマについて(予告)†

• 授業で紹介したエディタや表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
  • 例：作家ごとの言葉の使い方の違い
  • 例：類義語の意味の違い
  • 例：語の用法の変化
  • 例：語形・（表記）のゆれ
  • などなど

2015/05/29

前回小テスト解説

• 配付資料（解答例）

「ひまわり」とその使い方

• ひまわり（前回配布）の動作確認
• 検索方法の説明
  • ひまわりの正規表現について（授業資料/Himawariの正規表現）

ひまわり検索結果をExcelで扱う†

• ピボットテーブルを使ってみる

• 列名

  前文脈

  キー

  後文脈

  作品名

  副題

  著者

  役割

  初出

  分類番号

  文字遣い

  作品ID

  人物ID

  生年月日

  没年月日

  文字数

2015/5/22　全文検索システム「ひまわり」／正規表現小テスト

「ひまわり」とその使い方

• ひまわり（前回配布）の動作確認

正規表現小テスト

• テスト前にsoseki2.zipを検索可能にしておくこと

2015/5/15　タグ付き正規表現

タグ付き正規表現（再掲）

• 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろっ]
    • 置換文字列：★走[らりるれろっ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

検索文字列の中での後方参照†

• 検索語の中で\1を使う
  • (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：あ+ → 【\1】
    • ああああああああ →　【ああああああああ】 そのせいで…
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】　のように書かなければならない
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• よりかんたんに指定するには（最短一致，ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける

正規表現に関する参考資料†

• サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
• 正規表現に関する本　amazonで検索

#amazon(4873114500) #amazon(4873113598)

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

全文検索システム「ひまわり」について

• 全文検索システム「ひまわり」
  • ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用

• ひまわり のダウンロードページ　プログラム本体
• ひまわり用「青空文庫」パッケージのダウンロードページ　検索対象のデータセット

「ひまわり」の導入

• 動作確認

正規表現小テスト

• 小テストについて

2015/5/8　やや高度な正規表現

復習

• grepで簡単なKWIC（活用しない語）

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
  • カタカナ（外来語）の形容動詞語幹
• 送りがなの揺れ（行う／行なう）
• 会話文中（"「"で始まる文中）の用例を検索する
• 同一文中での共起
  • 全然～ない。
  • もし～なら（ば）

タグ付き正規表現

• 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろっ]
    • 置換文字列：★走[らりるれろっ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

2015/5/1　正規表現

• 今日の練習用テキストデータ
  • soseki2.zip （前回と同じもの）

テキストエディタ・正規表現（文字クラス）の復習

• 検索で初出行を調べる
  • 2番目の行
• 置換で用例数を数える
• grepとタグジャンプ
• 正規表現を使ってみる
  • 文字クラス
    • 例：読[まみむめもん]
  • 文字クラスの補集合（それ以外の文字）[^ ]
    • 例：[＾中韓カヶ]国語

grepと置換でKWIC(CSVファイル)を作る（簡易版）†

• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWIC：KeyWord In Context

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

2015/4/24　　テキストエディタの利用

• 今回からUSBメモリを利用します。

---

• テキストデータ（青空文庫）の配布
  • soseki2.zip （今日の授業で使います）
  • aozoradoc2.zip（青空文庫全テキスト・参考）
  • ダウンロードしてUSBメモリに展開（解凍）してください

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する
  • サブフォルダのgrep

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

正規表現を使ってみる†

• 文字クラス
  • 例：読[まみむめもん]
    • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
  • エディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
  • 特殊な文字（メタ文字）はすべて半角
  • 特殊な文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

2015/4/17　テキストデータとテキストエディタ

• USBメモリの準備
  • 次回の授業からUSBメモリを使います。2GB（できれば4GB）以上の空きのあるUSBメモリを用意してください。

テキストデータ

• すべての基本、文字が並ぶだけのデータ
  • 授業資料/テキストデータとは
  • バイナリファイルとテキストファイル
• TXT,CSV,HTM・・・
  • ファイルの種類と拡張子 参考：拡張子辞典
  • 拡張子(wikipedia)

• 授業で使うテキストデータ
  • 授業資料/テキストデータ紹介

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

• サクラエディタのダウンロードとインストール
  • サクラエディタのダウンロード:sakura2.zip
    • (参考) サクラエディタホームページ：http://sourceforge.net/projects/sakura-editor/

• zipファイルの展開（解凍）
  • 解凍しないままでも開けるが必ず解凍すること

• テキストエディタの設定
  • 行の折り返し
  • 行番号表示
    • スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

• 練習用サンプルデータ（漱石＋芥川）
  • sample.zip

2015/4/11　イントロダクション

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
    • コーパス開発センター
    • 現代日本語書き言葉均衡コーパス少納言

• デモ
  • テキストエディタとgrep
  • 全文検索システムひまわり
  • Excel（ピボットテーブル）
  • 形態素解析：茶まめ／MeCab+UniDic

• シラバス確認
  • シラバス
  • この授業の目的
  • 授業の進め方
  • 評価方法

授業で利用する主なソフトウェア†

最新の10件