[[成蹊2015]]


-日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術（テキストエディタ・正規表現・表計算ソフト・文書の構造化）を学びます。　
-前期2限
//-7号館3階 301パソコン教室
-ogiso＠ogiso.net　←＠を@に直してください


**2014/5/1　正規表現
**期末レポートについて
-締切：7月31日（金）
-提出先：メールで直接送付（必ず返信を確認すること）
-分量：A4用紙で3～10枚
-メール・Wordファイルの両方に氏名・学籍番号を明記すること
--Wordファイルのサイズが大きくなりすぎる場合には、PDFファイルとして保存して送ってください


**2015/07/17　最終回

-レポート完成に向けて作業を進めながら積極的に質問してください。


***Wordでレポートを書く
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ（見出しマップ）の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次

**2015/7/9　レポートテーマに関する調査

***小レポート講評

-小レポートの調査結果に基づき、各自のレポートテーマについて調査してください。
-個別に見て回ります。積極的に質問してください。


***現代語との比較 ―BCCWJ少納言
-1億語の[[「現代日本語書き言葉均衡コーパス」>http://www.ninjal.ac.jp/corpus_center/bccwj/]]の文字列検索
-http://www.kotonoha.gr.jp/shonagon/


***調整頻度の計算
-作家ごと、年ごとに文章量が大きく違うので、調整頻度に直して比較する
--語数はわからないので文字数を使う（たとえば10000文字当たり何回出現するか）


------
**6/26, 7/3の休講の代替措置について

+6/26までに期末レポートに向けた調査テーマを決め、メールで連絡する
--どのような語を調査するのかできるだけ具体的に書くこと
--テーマについて質問がある場合や、複数のテーマを検討中の場合にはメールで相談すること
+7/6までに上記のテーマの調査結果（小レポート）をメールに添付して送付する
--小レポートにはコーパスの調査結果（検索結果をピボットテーブルで集計したものなど）を必ず含めてください。
--Wordではファイルサイズが大きくなるため、PDF形式で保存したものを送ってください。


**2015/6/19
***レポートテーマについて
-全員に聞きます。


-例：「それぎり」と「それきり」


***ひまわりの検索結果をピボットテーブルで集計（続き）

-分類用のフィールドを作って集計する
--例：「新聞紙」の意味・用法の変化

-サンプリング調査
--大量に用例があり、調査内容からすべて対象にできない場合
--ランダムに並べ替え→先頭n例を調査対象に
---ランダムな数字の列： =rand() 
---ランダムな数字の列をコピーして値として貼り付けると数字が固定される


**2015/6/12　Excelによる集計

***ひまわりのアップデート
-[[Ver. 1.5.3公開>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.5]]
--列名入りでのコピーに対応


***生年月日データの書式について
-「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
--1900年以前の年月日は文字列、それ以降は日付として認識される

+Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
+Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
+Excelに貼り付ける


***関数の利用

-文字列処理関数
--例： =left(<文字列>,<文字数>)
---生年代： =left(<生年月日が入っているセル>,3)*10

***振り仮名の検索



***ひまわりで利用可能なデータについて [#p8928529]

-現代語のデータ
--国会会議録データ
--法令データベース
--口コミサイト
-[[近代語のデータ>http://www.ninjal.ac.jp/corpus_center/cmj/]]
--太陽コーパス
--近代女性雑誌コーパス
--明六雑誌コーパス
--国定高等小学読本
-古典文学作品のデータ

***レポートについて
-''レポートテーマ確認（第１回）来週''


**2015/6/5　ひまわりとExcel
-6/26, 7/3休講について

***ひまわり検索結果をExcelで扱う [#k187ca82]
-例：
--「～的の」「～的な」
--「気持ち」「心持ち」

-列名
|前文脈|キー|後文脈|作品名|副題|著者|役割|初出|分類番号|文字遣い|作品ID|人物ID|生年月日|没年月日|文字数|


***Excelの基本操作

-並べ替え（ソート）
-フィルター（絞り込み）
--テキストフィルター
--多重フィルター（複数の条件指定）
-ピボットテーブル★
--ピボットグラフ


***レポートテーマについて(予告)[#cf3cbcf7]
-授業で紹介したエディタや表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
--例：作家ごとの言葉の使い方の違い
--例：類義語の意味の違い
--例：語の用法の変化
--例：語形・（表記）のゆれ
--などなど

**2015/05/29

***前回小テスト解説
-配付資料（解答例）

***「ひまわり」とその使い方
-ひまわり（前回配布）の動作確認
-検索方法の説明
--ひまわりの正規表現について（[[授業資料/Himawariの正規表現]]）


***ひまわり検索結果をExcelで扱う [#k187ca82]

-ピボットテーブルを使ってみる

-列名
|前文脈|キー|後文脈|作品名|副題|著者|役割|初出|分類番号|文字遣い|作品ID|人物ID|生年月日|没年月日|文字数|


**2015/5/22　全文検索システム「ひまわり」／正規表現小テスト

***「ひまわり」とその使い方
&ref(himawari_aozora.png,,50%);

-ひまわり（前回配布）の動作確認


***正規表現小テスト

--テスト前に[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]]を検索可能にしておくこと

**2015/5/15　タグ付き正規表現

***タグ付き正規表現（再掲）

-走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ] 
---置換文字列：★走[らりるれろっ] 
-タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
-[[授業資料/タグつき正規表現]]


***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1  「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
--(.ろ)\1  「ころころ」「どろどろ」「へろへろ」などにマッチ

***最長一致の原則（greedy matching） [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例：''あ+'' → ''【\1】''
---ああああああああ →　【ああああああああ】
そのせいで…
--例：''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】''　のように書かなければならない
---「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
-よりかんたんに指定するには（最短一致，ものぐさ指定）
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける

***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
-正規表現に関する本　[[amazonで検索>http://www.amazon.co.jp/s/ref=nb_ss_gw?__mk_ja_JP=%83J%83%5E%83J%83i&url=search-alias%3Daps&field-keywords=%90%B3%8BK%95%5C%8C%BB&Go.x=0&Go.y=0&Go=Go]]

#amazon(4873114500)
#amazon(4873113598)
#clear


-（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]]

// ^(.*?,.*?,.*?,)(.*?,)(読[まみむめもん],)(.+,)(読[まみむめもん])(,.+)
//↓
// \1\2\3\4\n\1\4\5\6


***全文検索システム「ひまわり」について
//&ref(himawari_aozora.png,,50%);

-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用

-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.5]]　プログラム本体
-[[ひまわり用「青空文庫」パッケージのダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]　検索対象のデータセット


***「ひまわり」の導入
// -Web Collaboration : /temporary/ogiso/
-動作確認


***正規表現小テスト
-小テストについて


**2015/5/8　やや高度な正規表現

***復習
-grepで簡単なKWIC（活用しない語）

***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化  ()
--or（論理和）  |
--文頭 ^、文末 $

***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）

***タグ付き正規表現

-走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ] 
---置換文字列：★走[らりるれろっ] 
-タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
-[[授業資料/タグつき正規表現]]


**2015/5/1　正規表現

-今日の練習用テキストデータ
---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] （前回と同じもの）

***テキストエディタ・正規表現（文字クラス）の復習
-検索で初出行を調べる
--2番目の行
-置換で用例数を数える
-grepとタグジャンプ
-正規表現を使ってみる
--文字クラス
---例：読[まみむめもん]
--文字クラスの補集合（それ以外の文字）[^ ]
---例：[＾中韓カヶ]国語


***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d6f]
-CSVファイルとは：テキストファイルで表を表現する
[[用語：CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC：KeyWord In Context



***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化  ()
--or（論理和）  |
--文頭 ^、文末 $

***正規表現の応用 [#c7a3ea2d]
--カタカナ語
--送りがなの揺れ（行う／行なう）
--会話文中（"「"で始まる文中）の用例を検索する
--同一文中での共起 ''全然～ない。''



**2015/4/24　　テキストエディタの利用

-今回からUSBメモリを利用します。

------

-テキストデータ（青空文庫）の配布
//--Web Collaboration : /temporary/ogiso/
---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] （今日の授業で使います）
---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/134600/aozoradoc2.zip]]（青空文庫全テキスト・参考）
--ダウンロードしてUSBメモリに展開（解凍）してください

-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep

***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]


***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

***正規表現とは [#d216d4e0]

-''正規表現''　[[＞用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]]
--文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
--エディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
--特殊な文字（メタ文字）はすべて半角
--特殊な文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2



**2015/4/17　テキストデータとテキストエディタ

-USBメモリの準備
--次回の授業からUSBメモリを使います。2GB（できれば4GB）以上の空きのあるUSBメモリを用意してください。

***テキストデータ
-すべての基本、文字が並ぶだけのデータ
--[[授業資料/テキストデータとは]] 
--バイナリファイルとテキストファイル
-TXT,CSV,HTM・・・
--ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.jisyo.com/viewer/]]
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]]

-授業で使うテキストデータ
--[[授業資料/テキストデータ紹介]]


***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]

-サクラエディタのダウンロードとインストール
--[[サクラエディタのダウンロード:sakura2.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sakura2.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]]
---(参考) サクラエディタホームページ：http://sourceforge.net/projects/sakura-editor/

-zipファイルの展開（解凍）
--解凍しないままでも開けるが必ず解凍すること

-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

-練習用サンプルデータ（漱石＋芥川）
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]]


**2015/4/11　イントロダクション

-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
---[[コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]]
---現代日本語書き言葉均衡コーパス[[少納言>http://shonagon.ninjal.ac.jp]]

-デモ
--テキストエディタとgrep
--全文検索システム[[ひまわり>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--Excel（ピボットテーブル）
--形態素解析：茶まめ／MeCab+UniDic


-シラバス確認
--[[シラバス>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=2015%C1%B0%B4%FC%A5%B7%A5%E9%A5%D0%A5%B9_SEIKEI%20PORTAL%281%29.pdf&refer=%C0%AE%EC%FE2015%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]]
--この授業の目的
--授業の進め方
--評価方法


***授業で利用する主なソフトウェア [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[テキストエディタ ''サクラエディタ'' sakura2>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形|
|[[全文検索ソフト''ひまわり''>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|ワープロ''Word''|「スタイル」を利用したレポート作成|
トップ   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS