清泉2020集中の履歴差分(No.7)

追加された行はこの色です。
削除された行はこの色です。
#author("2020-08-18T06:48:43+00:00","default:ogiwiki","ogiwiki")
#author("2020-08-18T18:34:01+00:00","default:ogiwiki","ogiwiki")
*2020清泉女子大学 集中講義 [#u04c15ce]

-10:00 - 15:30
-オンライン（Zoom）

-学びの泉：[[授業ページ>https://izumi.seisen-u.ac.jp/campus/Course/14055/21/#/detail/21529/58647]]
-シラバス：[[清泉ポータル シラバス参照>https://portal.seisen-u.ac.jp/portal/slbssbdr.do?value(risyunen)=2020&value(semekikn)=1&value(kougicd)=JLSS2000&value(crclumcd)=]]

-日程
--8月18日(火)
--8月19日(水)
--8月20日(木)
--8月21日(金)
--9月7日(月)

------

#contents

------
*8月18日(火) [#s7e54b5b]

**第1回 イントロダクション [#l70c36fa]

***[[自己紹介]] [#b1b12793]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
--[[コーパス開発センター>https://pj.ninjal.ac.jp/corpus_center/]]


***授業内容の紹介 [#hb480786]

***授業で利用する主なソフトウェア・Webアプリケーション [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形|
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]]|コーパスの検索|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|

***デモ [#s3c96af7]
--テキストエディタとgrep
--全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]

--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://pj.ninjal.ac.jp/corpus_center/bccwj/]]
---BCCWJ[[少納言>https://shonagon.ninjal.ac.jp/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://pj.ninjal.ac.jp/corpus_center/chj/]]
--Excelによる集計（ピボットテーブル）
--形態素解析
---[[Web茶まめ>https://chamame.ninjal.ac.jp]]


***シラバス確認 [#d7ce20bc]
-シラバス：[[清泉ポータル シラバス参照>https://portal.seisen-u.ac.jp/portal/slbssbdr.do?value(risyunen)=2020&value(semekikn)=1&value(kougicd)=JLSS2000&value(crclumcd)=]]
--この授業の目的
--授業の進め方
--評価方法

***受講者アンケート [#r2dcb5af]
-関心分野・時代
-PC歴

***国語研のコーパス利用申し込み（「中納言」） [#v2c9932d]
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register



**第2回 電子化テキストとテキストエディタ [#h5298adf]

***文字コード [#g8eacf69]
-&#13055;（令和）の話
--[[授業資料/文字コード関連リンク]]

***テキストデータとは [#q080d5da]
-すべての基本、文字が並ぶだけのデータ
--[[授業資料/テキストデータとは]] 
--バイナリファイルとテキストファイル
-TXT,CSV,HTM・・・
--ファイルの種類と拡張子 参考：[[拡張子辞典>https://www.sophia-it.com/extension/]]
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]]

--[[授業資料/テキストデータ紹介]]


***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]


***サクラエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakura-editor/sakura/releases/download/v2.4.0/sakura-tag-v2.4.0-build2686-782347a-Win32-Release-Installer.zip]]
---(参考) サクラエディタホームページ：https://sakura-editor.github.io/

-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.exeをデスクトップにコピー
--exeファイルを右クリックして「セキュリティ」の右の「許可する」をチェックして「OK」
--ダブルクリックしてインストール


***テキストエディタを使ってみる [#zc42842b]
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

-練習用サンプルデータ（漱石＋芥川）
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]]

-★サンプルデータ2（漱石・文末で改行）
--[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] （夏目漱石作品）


***テキストエディタの基本 [#kc63a17a]

-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep

***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]


***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d6f]
-CSVファイルとは：テキストファイルで表を表現する
[[用語：CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC：KeyWord In Context


***参考：テキストデータ（青空文庫）の配布 [#bd04ed6f]
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7h1/aozoradoc2.zip?dl=1]]（青空文庫全テキスト）
--必要な人のみダウンロードしてUSBメモリで持ち帰ってください



**第3回 テキストエディタと正規表現　 [#k800eb2d]

***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

***正規表現とは [#d216d4e0]

-''正規表現''　[[＞用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]]
--文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
--エディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2


***正規表現のいろいろ [#q514651f]
-''[[授業資料/正規表現]]''
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化  ()
--or（論理和）  |
--文頭 ^、文末 $

------

*8月19日(水) [#xf0d599d]

**「中納言」申し込み状況の確認 [#p3f04665]
-ログインの確認
-https://chunagon.ninjal.ac.jp/

**前回補足 [#f424b6c2]

**第4回 正規表現の応用／タグ付き正規表現 [#l81fe819]

***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）


**第4回 タグ付き正規表現 [#l81fe819]

***タグ付き正規表現とは [#qd746f67]

-走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ] 
---置換文字列：★走[らりるれろっ] 
-タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
-[[授業資料/タグつき正規表現]]

***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1  「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
--(.ろ)\1  「ころころ」「どろどろ」「へろへろ」などにマッチ


***最長一致の原則（greedy matching） [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例：''あ+'' → ''【\1】''
---ああああああああ →　【ああああああああ】
そのせいで…
--例：''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】''　のように書かなければならない
---「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
-よりかんたんに指定するには（最短一致，ものぐさ指定）
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける


-（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]]


***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
-正規表現に関する本　[[amazonで検索>http://www.amazon.co.jp/s/ref=nb_ss_gw?__mk_ja_JP=%83J%83%5E%83J%83i&url=search-alias%3Daps&field-keywords=%90%B3%8BK%95%5C%8C%BB&Go.x=0&Go.y=0&Go=Go]]

#amazon(4873114500)
#amazon(4873113598)
#clear


-（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]]



**第5回 全文検索ソフト「ひまわり」 [#q73807da]

***全文検索システム「ひまわり」について [#u543ed7f]
&ref(himawari_aozora.png,,50%);


-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用

-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.6]]　プログラム本体
-[[ひまわり用「青空文庫」パッケージのダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]　検索対象のデータセット


***「ひまわり」と「青空文庫パッケージ」のインストール [#taa83497]
+ひまわり本体のダウンロード
++[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.6]]からプログラム本体をダウンロード
***「ひまわり」本体のインストール [#taa83497]
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.6]]からプログラム本体をダウンロード
++ダウンロードしたファイルのセキュリティブロックを解除
++解凍後、フォルダごとUSBメモリにコピー
+青空文庫パッケージのダウンロード


***「青空文庫パッケージ」のインストール [#q65dfc0e]
-青空文庫パッケージのダウンロード
++[[ひまわり用「青空文庫」パッケージのダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]から「青空文庫パッケージ」をUSBメモリに直接ダウンロードして保存（サイズが大きいのでPCにダウンロードできない）
+USBメモリにコピーしたフォルダ内のhimawari.exeを起動
++メニューのファイル＞インストールをえらび、青空文庫パッケージのzipファイルを指定
++Himawari画面上にダウンロードしたzipファイルをドラッグ＆ドロップ((または、メニューのファイル＞インストールをえらび、青空文庫パッケージのzipファイルを指定))
++しばらく待つと完了（数分から10分程度はかかる）
+要らなくなったファイルの削除
++PC上の「ひまわり」フォルダやzipファイル、USBの青空文庫パッケージzipファイルは不要なので削除する
+要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する



***「ひまわり」の使い方 [#of0bca27]
-ひまわりの動作確認
-検索方法の説明
--ひまわりの正規表現について（[[授業資料/Himawariの正規表現]]）

-振り仮名の検索


**第6回 Excelによる検索結果の集計(ピボットテーブル） [#a590d445]

***ひまわりの検索結果をExcelに [#ne2dbb61]

-検索結果のコピー
++すべて選択＞コピー（列名を含む）
++Excelを起動して貼り付け


***Excelの基本操作 [#k6d831b9]

-並べ替え（ソート）
-フィルター（絞り込み）
--テキストフィルター
--多重フィルター（複数の条件指定）
-ピボットテーブル★
--ピボットグラフ


***ひまわり検索結果をExcelで扱う [#qa5d4c97]
-ピボットテーブルとピボットグラフ
--''例：「気持ち」「心持ち」''
--''例：「それきり」「それぎり」''
--例：「～的な」「～的の」
---※「目的」「標的」などをフィルタで除去


***生年代による集計（通時的変化） [#f3bb8246]

-文字列処理関数の利用
--例： =left(<文字列>,<文字数>)
---生年代： =left(<生年月日が入っているセル>,3)*10


-生年月日データの書式について
--「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
---1900年以前の年月日は文字列、それ以降は日付として認識される

+Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
+新しいExcelのシートで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
+Excelに貼り付ける



***分類用の列を作って集計する [#m6ba8a5a]
-入力用の列を作り手作業で意味分類する
--例：「新聞紙」の意味・用法の変化


***サンプリング調査 [#zfa5069a]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして値として貼り付けると数字が固定される


***ひまわりで利用可能なデータについて [#p8928529]

-現代語のデータ
--国会会議録データ
--法令データベース
--口コミサイト
-[[近代語のデータ>http://www.ninjal.ac.jp/corpus_center/cmj/]]
--太陽コーパス
--近代女性雑誌コーパス
--明六雑誌コーパス
--国定高等小学読本
-古典文学作品のデータ


------

**第7回 日本語コーパスの紹介 [#g4e44235]


''&color(,yellow){資料配布（「中納言」の使い方，「中納言」による検索）：明日以降も必ず持ってきてください。};''
''&color(,yellow){資料配布（「中納言」の使い方，「中納言」による検索）};''


***コーパスとは [#t54768fa]

:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。
-この授業で扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」


***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング [#s89fe505]
-http://pj.ninjal.ac.jp/corpus_center/bccwj/

-''（スライド参照）''　コーパスの設計とサンプリング
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題

***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-http://pj.ninjal.ac.jp/corpus_center/chj/
清泉2020集中 の履歴差分(No.7)

清泉2020集中の履歴差分(No.7)
