成蹊2015

  • 日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術(テキストエディタ・正規表現・表計算ソフト・文書の構造化)を学びます。 
  • 前期2限
  • ogiso@ogiso.net ←@を@に直してください

期末レポートについて

  • 締切:7月31日(金)
  • 提出先:メールで直接送付(必ず返信を確認すること)
  • 分量:A4用紙で3〜10枚
  • メール・Wordファイルの両方に氏名・学籍番号を明記すること
    • Wordファイルのサイズが大きくなりすぎる場合には、PDFファイルとして保存して送ってください

2015/07/17 最終回

  • レポート完成に向けて作業を進めながら積極的に質問してください。

Wordでレポートを書く

  • 文書の構造化*
    • スタイルと見出し
    • ナビゲーション ウィンドウ(見出しマップ)の使い方
    • 章・節番号
  • 図表の貼り込み*
    • 「形式を選択して貼り付け」
    • 図表番号とキャプション
  • 脚注
    • 脚注と文末脚注
  • 相互参照
    • 節番号、図表番号と相互参照
    • 目次、図表目次

2015/7/9 レポートテーマに関する調査

小レポート講評

  • 小レポートの調査結果に基づき、各自のレポートテーマについて調査してください。
  • 個別に見て回ります。積極的に質問してください。

現代語との比較 ―BCCWJ少納言

調整頻度の計算

  • 作家ごと、年ごとに文章量が大きく違うので、調整頻度に直して比較する
    • 語数はわからないので文字数を使う(たとえば10000文字当たり何回出現するか)

6/26, 7/3の休講の代替措置について

  1. 6/26までに期末レポートに向けた調査テーマを決め、メールで連絡する
    • どのような語を調査するのかできるだけ具体的に書くこと
    • テーマについて質問がある場合や、複数のテーマを検討中の場合にはメールで相談すること
  2. 7/6までに上記のテーマの調査結果(小レポート)をメールに添付して送付する
    • 小レポートにはコーパスの調査結果(検索結果をピボットテーブルで集計したものなど)を必ず含めてください。
    • Wordではファイルサイズが大きくなるため、PDF形式で保存したものを送ってください。

2015/6/19

レポートテーマについて

  • 全員に聞きます。
  • 例:「それぎり」と「それきり」

ひまわりの検索結果をピボットテーブルで集計(続き)

  • 分類用のフィールドを作って集計する
    • 例:「新聞紙」の意味・用法の変化
  • サンプリング調査
    • 大量に用例があり、調査内容からすべて対象にできない場合
    • ランダムに並べ替え→先頭n例を調査対象に
      • ランダムな数字の列: =rand()
      • ランダムな数字の列をコピーして値として貼り付けると数字が固定される

2015/6/12 Excelによる集計

ひまわりのアップデート

生年月日データの書式について

  • 「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
    • 1900年以前の年月日は文字列、それ以降は日付として認識される
  1. Himawariで「すべて選択」後、「すべて選択」「コピー(列名含む)」をする
  2. Excelで生年月日の列が貼り付けられることになる列(NとO)を丸ごと選択し、書式を「文字列」とする
  3. Excelに貼り付ける

関数の利用

  • 文字列処理関数
    • 例: =left(<文字列>,<文字数>)
      • 生年代: =left(<生年月日が入っているセル>,3)*10

振り仮名の検索

ひまわりで利用可能なデータについて

  • 現代語のデータ
    • 国会会議録データ
    • 法令データベース
    • 口コミサイト
  • 近代語のデータ
    • 太陽コーパス
    • 近代女性雑誌コーパス
    • 明六雑誌コーパス
    • 国定高等小学読本
  • 古典文学作品のデータ

レポートについて

  • レポートテーマ確認(第1回)来週

2015/6/5 ひまわりとExcel

  • 6/26, 7/3休講について

ひまわり検索結果をExcelで扱う

  • 例:
    • 「〜的の」「〜的な」
    • 「気持ち」「心持ち」
  • 列名
    前文脈キー後文脈作品名副題著者役割初出分類番号文字遣い作品ID人物ID生年月日没年月日文字数

Excelの基本操作

  • 並べ替え(ソート)
  • フィルター(絞り込み)
    • テキストフィルター
    • 多重フィルター(複数の条件指定)
  • ピボットテーブル★
    • ピボットグラフ

レポートテーマについて(予告)

  • 授業で紹介したエディタや表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
    • 例:作家ごとの言葉の使い方の違い
    • 例:類義語の意味の違い
    • 例:語の用法の変化
    • 例:語形・(表記)のゆれ
    • などなど

2015/05/29

前回小テスト解説

  • 配付資料(解答例)

「ひまわり」とその使い方

ひまわり検索結果をExcelで扱う

  • ピボットテーブルを使ってみる
  • 列名
    前文脈キー後文脈作品名副題著者役割初出分類番号文字遣い作品ID人物ID生年月日没年月日文字数

2015/5/22 全文検索システム「ひまわり」/正規表現小テスト

「ひまわり」とその使い方

himawari_aozora.png

  • ひまわり(前回配布)の動作確認

正規表現小テスト

  • テスト前にsoseki2.zipを検索可能にしておくこと

2015/5/15 タグ付き正規表現

タグ付き正規表現(再掲)

  • 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
    • 次のように置換するととんでもないことに…
      • 検索文字列:走[らりるれろっ]
      • 置換文字列:★走[らりるれろっ]
  • タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)を使う
  • 授業資料/タグつき正規表現

検索文字列の中での後方参照

  • 検索語の中で\1を使う
    • (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
    • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則(greedy matching)

  • 正規表現は、パターンが一致する最も長い範囲にマッチする
    • 例:あ+【\1】
      • ああああああああ → 【ああああああああ】 そのせいで…
    • 例:「(.+)」【\1】
      • 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
    • 括弧の組ごとに置換するためには「([^」]+)」【\1】 のように書かなければならない
      • 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
  • よりかんたんに指定するには(最短一致,ものぐさ指定)
    • 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける

正規表現に関する参考資料

全文検索システム「ひまわり」について

「ひまわり」の導入

  • 動作確認

正規表現小テスト

  • 小テストについて

2015/5/8 やや高度な正規表現

復習

  • grepで簡単なKWIC(活用しない語)

正規表現のいろいろ

  • 授業資料/正規表現
    • 文字クラス [ ]
    • 文字クラスの否定(補集合)[^ ]
    • 繰り返し ? + *
    • グループ化 ()
    • or(論理和) |
    • 文頭 ^、文末 $

正規表現の応用

  • カタカナ語
    • カタカナ(外来語)の形容動詞語幹
  • 送りがなの揺れ(行う/行なう)
  • 会話文中("「"で始まる文中)の用例を検索する
  • 同一文中での共起
    • 全然〜ない。
    • もし〜なら(ば)

タグ付き正規表現

  • 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
    • 次のように置換するととんでもないことに…
      • 検索文字列:走[らりるれろっ]
      • 置換文字列:★走[らりるれろっ]
  • タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)を使う
  • 授業資料/タグつき正規表現

2015/5/1 正規表現

  • 今日の練習用テキストデータ

テキストエディタ・正規表現(文字クラス)の復習

  • 検索で初出行を調べる
    • 2番目の行
  • 置換で用例数を数える
  • grepとタグジャンプ
  • 正規表現を使ってみる
    • 文字クラス
      • 例:読[まみむめもん]
    • 文字クラスの補集合(それ以外の文字)[^ ]
      • 例:[^中韓カヶ]国語

grepと置換でKWIC(CSVファイル)を作る(簡易版)

  • CSVファイルとは:テキストファイルで表を表現する 用語:CSVファイル
  • KWIC:KeyWord In Context

正規表現のいろいろ

  • 授業資料/正規表現
    • 文字クラス [ ]
    • 文字クラスの否定(補集合)[^ ]
    • 繰り返し ? + *
    • グループ化 ()
    • or(論理和) |
    • 文頭 ^、文末 $

2015/4/24  テキストエディタの利用

  • 今回からUSBメモリを利用します。

  • テキストデータ(青空文庫)の配布
    • ダウンロードしてUSBメモリに展開(解凍)してください
  • 検索・置換、grep
    • 検索で初出行を調べる
    • 置換で用例数を数える
    • grepで用例リストを作る
    • タグジャンプで文脈を確認する
    • サブフォルダのgrep

ショートカットキー

正規表現を使ってみる

  • 文字クラス
    • 例:読[まみむめもん]
      • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

正規表現とは

  • 正規表現 >用語
    • 文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する
    • エディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ−ションやコンピュータ言語で利用されている)
    • 特殊な文字(メタ文字)はすべて半角
    • 特殊な文字そのものを表す場合には\でエスケープする(特殊な意味を打ち消す) 例:1\+2

2015/4/17 テキストデータとテキストエディタ

  • USBメモリの準備
    • 次回の授業からUSBメモリを使います。2GB(できれば4GB)以上の空きのあるUSBメモリを用意してください。

テキストデータ

テキストエディタ

  • zipファイルの展開(解凍)
    • 解凍しないままでも開けるが必ず解凍すること
  • テキストエディタの設定
    • 行の折り返し
    • 行番号表示
      • スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号)
  • 練習用サンプルデータ(漱石+芥川)

2015/4/11 イントロダクション

  • デモ
    • テキストエディタとgrep
    • 全文検索システムひまわり
    • Excel(ピボットテーブル)
    • 形態素解析:茶まめ/MeCab+UniDic
  • シラバス確認
    • シラバス
    • この授業の目的
    • 授業の進め方
    • 評価方法

授業で利用する主なソフトウェア

ソフトウェアの種類・名前利用目的
テキストエディタ サクラエディタ sakura2正規表現を使ったテキストの検索・整形
全文検索ソフトひまわりデータの検索
表計算ソフトExcelピボットテーブルによる分析・グラフ作成
ワープロWord「スタイル」を利用したレポート作成

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS