[[成蹊2018]] -日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術(テキストエディタ・正規表現・表計算ソフト・文書の構造化)を学びます。 -後期2限 -7号館3階 301パソコン教室 -ogiso@ogiso.net ←@を@に直してください *日本語日本文学のためのコンピュータ //★次回、正規表現小テスト、 +27日分検索課題 seikei portal **2018/11/2 ***「青空文庫パッケージ」のインストール +青空文庫パッケージのダウンロード ++[[ひまわり用「青空文庫」パッケージのダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]から「青空文庫パッケージ」をUSBメモリに直接ダウンロードして保存(サイズが大きいのでPCにダウンロードできない) +USBメモリにコピーしたフォルダ内のhimawari.exeを起動 ++Himawari画面上にドラッグ&ドロップ((または、メニューのファイル>インストールをえらび、青空文庫パッケージのzipファイルを指定)) ++しばらく待つと完了(数分から10分程度はかかる) +要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する ***「ひまわり」とその使い方 &ref(himawari_aozora.png,,50%); -ひまわりの動作確認 -検索方法の説明 --ひまわりの正規表現について([[授業資料/Himawariの正規表現]]) ***ひまわり検索結果をExcelで扱う [#k187ca82] -例: --「気持ち」「心持ち」 ***Excelの基本操作 -並べ替え(ソート) -フィルター(絞り込み) --テキストフィルター --多重フィルター(複数の条件指定) -ピボットテーブル★ --ピボットグラフ ***ひまわり検索結果をExcelで扱う [#k187ca82] -ピボットテーブルとピボットグラフ --例:「それきり」「それぎり」 --例:「~的な」「~的の」 ---※「目的」「標的」などをフィルタで除去 ***生年代による集計(通時的変化) -文字列処理関数の利用 --例: =left(<文字列>,<文字数>) ---生年代: =left(<生年月日が入っているセル>,3)*10 -生年月日データの書式について --「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ ---1900年以前の年月日は文字列、それ以降は日付として認識される +Himawariで「すべて選択」後、「すべて選択」「コピー(列名含む)」をする +Excelで生年月日の列が貼り付けられることになる列(NとO)を丸ごと選択し、書式を「文字列」とする +Excelに貼り付ける **2018/10/27(金曜授業実施日) 休講 -課題:SEIKEI Portalにて **2018/10/26 ***検索文字列の中での後方参照(復習) -検索語の中で\1を使う --(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ --(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ --(..)\1\1 --(...)\1 ***最長一致の原則(greedy matching) [#y047e9bd] -正規表現は、パターンが一致する最も長い範囲にマッチする --例:''あ+'' → ''【\1】'' ---ああああああああ → 【ああああああああ】 そのせいで… --例:''「(.+)」'' → ''【\1】'' ---「こんにちは」「さようなら」 → 【こんにちは」「さようなら】 --括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】'' のように書かなければならない ---「こんにちは」「さようなら」 → 【こんにちは】【さようなら】 -よりかんたんに指定するには(最短一致,ものぐさ指定) --''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける ***正規表現に関する参考資料 [#w86de08b] -サクラエディタの正規表現:http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html -正規表現に関する本 [[amazonで検索>http://www.amazon.co.jp/s/ref=nb_ss_gw?__mk_ja_JP=%83J%83%5E%83J%83i&url=search-alias%3Daps&field-keywords=%90%B3%8BK%95%5C%8C%BB&Go.x=0&Go.y=0&Go=Go]] #amazon(4873114500) #amazon(4873113598) #clear -(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]] // ^(.*?,.*?,.*?,)(.*?,)(読[まみむめもん],)(.+,)(読[まみむめもん])(,.+) //↓ // \1\2\3\4\n\1\4\5\6 ***全文検索システム「ひまわり」について //&ref(himawari_aozora.png,,50%); -[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --ただのテキストファイル(プレーンテキスト)ではなく、XML形式にして、インデックスを付けた専用のデータを利用 -[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.5]] プログラム本体 -[[ひまわり用「青空文庫TOP100」パッケージ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%C0%C4%B6%F5%CA%B8%B8%CBTOP100%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]] 検索対象のデータセット(お試し用小サイズデータ) ***「ひまわり」の導入 // -Web Collaboration : /temporary/ogiso/ -動作確認 ***正規表現小テスト **2018/10/12 正規表現 -今日の練習用テキストデータ ---[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] (前回と同じもの) ***テキストエディタ・正規表現(文字クラス)の復習 -文字クラス --例:読[まみむめもん] ***正規表現のいろいろ [#q514651f] -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの否定(補集合)[^ ] --繰り返し ? + * --グループ化 () --or(論理和) | --文頭 ^、文末 $ ***正規表現の応用 [#c7a3ea2d] -カタカナ語 --カタカナ(外来語)の形容動詞語幹 -送りがなの揺れ(行う/行なう) -会話文中("「"で始まる文中)の用例を検索する -同一文中での共起 --全然~ない。 --もし~なら(ば) //--------- ***タグ付き正規表現 -走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか --次のように置換するととんでもないことに… ---検索文字列:走[らりるれろっ] ---置換文字列:★走[らりるれろっ] -タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)を使う -[[授業資料/タグつき正規表現]] ***検索文字列の中での後方参照 [#j9966c0d] -検索語の中で\1を使う --(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ --(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ **2018/10/05 テキストエディタの利用 -今回からUSBメモリを利用します。 ------ -テキストデータ(青空文庫)の配布 ---[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] (今日の授業で使います) ---[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7h1/aozoradoc2.zip?dl=1]](青空文庫全テキスト・参考) --ダウンロードしてUSBメモリに展開(解凍)してください -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する --サブフォルダのgrep ***ショートカットキー [#da449f25] -[[授業資料/覚えておきたいショートカットキー]] ***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d6f] -CSVファイルとは:テキストファイルで表を表現する [[用語:CSVファイル>http://e-words.jp/w/CSV.html]] -KWIC:KeyWord In Context ***正規表現を使ってみる [#u471d57b] -文字クラス --例:読[まみむめもん] ---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字 ***正規表現とは [#d216d4e0] -''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]] --文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する --エディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている) --特殊な文字(メタ文字)はすべて半角 //--特殊な文字そのものを表す場合には\でエスケープする(特殊な意味を打ち消す) 例:1\+2 -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの補集合(それ以外の文字)[^ ] **2018/09/28 テキストデータとテキストエディタ -USBメモリの準備 --次回の授業からUSBメモリを使います。2GB(できれば4GB)以上の空きのあるUSBメモリを用意してください。 ***テキストデータ -すべての基本、文字が並ぶだけのデータ --[[授業資料/テキストデータとは]] --バイナリファイルとテキストファイル -TXT,CSV,HTM・・・ --ファイルの種類と拡張子 参考:[[拡張子辞典>http://www.jisyo.com/viewer/]] --[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]] -授業で使うテキストデータ --[[授業資料/テキストデータ紹介]] ***テキストエディタ [#q7ae852c] -テキストエディタとはどんなものか --[[授業資料/テキストエディタ]] -サクラエディタのダウンロードとインストール --★[[サクラエディタのダウンロード:sakura2.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sakura2.zip&refer=%C0%AE%EC%FE2017%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]] ---(参考) サクラエディタホームページ:http://sourceforge.net/projects/sakura-editor/ -zipファイルの展開(解凍) --解凍しないままでも開けるが必ず解凍すること -テキストエディタの設定 --行の折り返し --行番号表示 ---スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号) -練習用サンプルデータ(漱石+芥川) --[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]] -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する --サブフォルダのgrep **2018/09/21 ***イントロダクション -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/ --[[コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]] -デモ --テキストエディタとgrep --全文検索システム[[ひまわり>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --Excel(ピボットテーブル) --形態素解析:[[Web茶まめ>http://chamame.ninjal.ac.jp]] -シラバス確認 --[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=SEIKEI2018b_syllabus.pdf&refer=%C0%AE%EC%FE2018%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]](PDF) --この授業の目的 --授業の進め方 --評価方法 ***授業で利用する主なソフトウェア [#i06478d2] |ソフトウェアの種類・名前|利用目的|h |[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形| |[[全文検索ソフト''ひまわり''>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索| |表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成| |ワープロ''Word''|「スタイル」を利用したレポート作成| --アンケート