#author("2025-06-19T20:34:31+09:00","default:ogiwiki","ogiwiki") #author("2025-06-20T11:04:58+09:00","default:ogiwiki","ogiwiki") [[成蹊2025]] *応用日本語講座 [#vb1e1a30] -2025年度前期・金曜2限:''10:40~12:20'' -教室:7号館303 -Mail: ogiso@ogiso.net -[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2025&value(semekikn)=1&value(kougicd)=125236130&value(crclumcd)=50225-0100]] -[[CoursePower授業ページ>https://lms.seikei.ac.jp/lms/lginLgir/index?target=_MGYBLRK]] **06/20(対面) [#z111b7b1] ***「Web茶まめ」の利用 [#p018d8bb] -https://chamame.ninjal.ac.jp/ -テキストの形態素解析結果をピボットテーブルで分析 -複数のテキストの形態素解析結果を比較する -サンプルデータ(漱石 こころ.txt) --[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/sample.zip?dl=1]] ***コーパスの(短単位)語彙表と比較する [#u9a3b20b] -『現代日本語書き言葉均衡コーパス』短単位語彙表(Version 1.1) --https://doi.org/10.15084/00003219 **レポートテーマについて [#wffb3f40] -一人ずつ口頭で簡単に考えているレポートテーマを説明してもらいます --後で変更してもかまいません --例:語形・(表記)のゆれ、使い分け --例:語の用法の変化 --例:作家ごとの言葉の使い方の違い --例:類義語の意味の違い -などなど **06/13(オンライン) [#g7cfcd79] -接続先は下記CoursePower授業ページで確認してください。「お知らせ」で連絡したものと同じです。 --https://lms.seikei.ac.jp/lms/lginLgir/index?target=BaHcSkYN ***(補足)「ひまわり」で利用可能なその他のデータについて [#h3ce7acd] --[[『青空文庫』パッケージ( 小説以外を含む15000作品以上を収録)>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]] --[[『国会会議録』パッケージ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%B9%F1%B2%F1%B2%F1%B5%C4%CF%BF%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]] --[[『名大会話コーパス』パッケージ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%CC%BE%C2%E7%B2%F1%CF%C3%A5%B3%A1%BC%A5%D1%A5%B9%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]] /中納言版あり --[[近代語のコーパス>https://ccd.ninjal.ac.jp/cmj/]] /CHJ中納言に収録済み ***青空文庫ひまわりで [#n9a2dc03] -類義語・対義語 --例:「細君」「妻君」,「妻(つま)」「妻(さい)」「奥さん」etc. --例:「夫」「主人」「旦那」etc. --例:「男」「女」、「男性」「女性」 -通時的変化 --例:「女性」「婦人」 --例:「障碍」「障害」 [[ケーススタディ/障がい]] --例:「~的な」「~的の」 ***コーパスを青空文庫の用例と比較する [#z6e4d5bf] -明治大正時代の変化はその後どうなったか:BCCWJとの比較 -近代の雑誌や教科書ではどうなっているか:CHJ(雑誌・教科書)との比較 -明治大正より前(江戸時代以前)はどうなっているか:CHJ(江戸時代以前)との比較 --とりあげた例:「それぎり」「心持ち」「新聞紙」の意味 **06/06 中納言の使い方(続)/さまざまな集計方法 [#u6c4f43c] ***正規表現小テスト返却 [#vf2479c6] ***「中納言の使い方」 [#t1d180d6] -[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=G2g1E9Q-]] ***複数の検索結果を結合する [#f6dce18e] -一度の検索では探せない語群の集計、または後から検索結果を追加する場合 --「幸せ」「倖せ」「仕合わせ」 一度にピボットテーブルで集計できるように検索結果1の表の下に検索結果2(列名なし)を貼り付けて一つの表にまとめる -※必ず表をくっつけること(空行を入れるとそこで表が切れていると認識される) ショートカットキーを活用すると便利 -コピーした表を既存の表の下に貼り付け --Ctrl+↓(表の一番下の行に移動), ↓(1行下へ), Ctrl+V(貼り付け) ***作品数の調査(用例数ではなく作品数で調査する) [#qee8d8b6] -たとえば人称代名詞のように、一つの作品に偏って大量に用例がある場合 --[[sample>https://www.dropbox.com/scl/fi/tw8k7brtfef3gn3nszaah/.xlsx?dl=1&rlkey=o6q3f33zibvgvgpw2ts7wanvw]] ***テキストエディタで「ひまわり」の検索結果を加工する [#j3fd8ed9] Excelで列をコピー後、エディタに貼り付けて置換したものをコピーして、Excelに貼り付ける(検索文字列⇒置換文字列) -例:正規表現をつかった置換で前後文脈を整える --前文脈をキーと同一文中に絞る .+。 ⇒ --後文脈をキーと同一文中に絞る 。.+ ⇒ 。 -例:生年代(=LEFT()関数の代わり(($10は特殊変数$1と文字列0。特殊変数は$9まで)) (...).+ ⇒ $10 ***階層的クラスタリング(復習) [#wba39e8b] **05/30 集計結果の分析:Rを使ってクラスタリング [#c6dc6b2f] ***階層的クラスタリング [#p47c5f7a] -使っている表記バリエーションで作家をグループ分けする -https://www.dropbox.com/scl/fi/auk4qifosq6un0tumn3ec/hidoi_clustering.txt?rlkey=jkhv26gnfjc1g8gx15qguylau&dl=1 **05/23 コーパスの紹介 [#if2b29c3] ***「中納言」のかんたんな使い方 [#sb9d4a49] この授業ではごく簡略に使い方を説明します(本格的な利用法は[[成蹊2025/日本語学講義D]]で) -資料:[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=G2g1E9Q-]] ***「中納言」の紹介 [#h1262109] -[[コーパス検索アプリケーション「中納言」>https://chunagon.ninjal.ac.jp]] -「現代日本語書き言葉均衡コーパス」(BCCWJ):現代語書き言葉との比較に -「日本語日常会話コーパス」(CEJC):現代の話し言葉との比較に(量は少ないが発音が確認できる) -「昭和・平成書き言葉コーパス」(SHC):1933年から2013年までの雑誌・ベストセラー書籍・新聞を8年おきに収録 -「日本語歴史コーパス」(CHJ):近代の文学作品以外との比較や、近代以前との比較、より長いスパンでの言語変化の調査に ***品詞体系と見出し語の階層 [#b8ca660e] -BCCWJ,CHJはUniDicの品詞体系にもとづく --[[授業資料/UniDicの品詞体系]] --[[授業資料/UniDicの見出し語階層]] ***青空文庫の集計結果との比較例 [#ae02e1d9] -明治大正時代の変化はその後どうなったか:BCCWJとの比較 --それぎり --心持ち -近代の雑誌や教科書ではどうなっているか:CHJ(雑誌・教科書)との比較 -明治大正より前(江戸時代以前)はどうなっているか:CHJ(江戸時代以前)との比較 **05/16 検索結果のExcelによる集計 [#u00a16aa] ***(復習)Excelの基本操作 [#n45bc002] -並べ替え(ソート) -フィルター(絞り込み) --テキストフィルター --多重フィルター(複数の条件指定) -ピボットテーブル【重要】 --ピボットグラフ ***(復習)ピボットテーブルの使い方・生年代による集計 [#i7944704] -ピボットテーブル -ピボットグラフ --例:「気持ち」「心持ち」 ***分類用の列を作って集計する [#qcbc1b30] -入力用の列を作り手作業で意味分類する --例:「新聞紙」の意味・用法の変化 ***ランダムサンプリング調査 [#m5567f46] -大量に用例があり、調査内容からすべて対象にできない場合 -ランダムに並べ替え→先頭n例を調査対象に --ランダムな数字の列: =RAND() --ランダムな数字の列をコピーして値として貼り付けると数字が固定される **05/09 「ひまわり」の利用と検索結果のExcelでの集計/正規表現小テスト [#hbd44774] ***「ひまわり」とその使い方(復習) [#c05dd159] -ひまわりの動作確認 -検索方法の説明 -ひまわりの正規表現について([[授業資料/Himawariの正規表現]]) -ふりがな(ルビ)の検索 ***ひまわり検索結果をExcelで扱う [#k187ca82] -例:「それきり」「それぎり」 --(作家/作品別の比較) ***Excelの基本操作 [#n45bc002] -並べ替え(ソート) -フィルター(絞り込み) --テキストフィルター --多重フィルター(複数の条件指定) -ピボットテーブル【重要】 --ピボットグラフ ***生年代による集計(通時的変化) [#a3ab9dec] -文字列処理関数の利用 --例: =LEFT(<文字列>,<文字数>)((LEFTのような関数名は小文字でも構わないが、記号も含め、必ず半角)) ---生年代: =LEFT(<生年月日が入っているセル>,3)*10 -生年月日データの書式について --下記の手順で「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ必要がある ---Excelでは1900年以前の年月日は文字列、それ以降は日付として認識されるため +Himawariで「すべて選択」後、「すべて選択」「コピー(列名含む)」をする +Excelで生年月日の列が貼り付けられることになる列(NとO)を丸ごと選択し、書式を「文字列」とする +Excelに貼り付ける ***正規表現小テスト [#b6cadc4f] **05/02 高度な正規表現/全文検索システム「ひまわり」 [#t044c000] ***タグ付き正規表現 [#z9ef50e5] -走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか --次のように置換するととんでもないことに… ---検索文字列:走[らりるれろっ] ---置換文字列:★走[らりるれろっ] -タグ付き正規表現:カッコ(半角丸カッコ)と$1((VSCodeでは$1、サクラエディタなどでは\1でもいい))($2,$3…)を使う -[[授業資料/タグつき正規表現]] ***最長一致の原則(greedy matching) [#y047e9bd] -正規表現は、パターンが一致する最も長い範囲にマッチする --例:''あ+'' → ''【$1】'' ---ああああああああ → 【ああああああああ】 そのせいで… --例:''「(.+)」'' → ''【$1】'' ---「こんにちは」「さようなら」 → 【こんにちは」「さようなら】 --括弧の組ごとに置換するためには''「([^」]+)」'' → ''【$1】'' のように書かなければならない ---「こんにちは」「さようなら」 → 【こんにちは】【さようなら】 -よりかんたんに指定するには(最短一致,ものぐさ指定) --''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける -(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]] ***検索文字列の中での後方参照 [#ra28185d] -検索語の中で\1((後方指定ではVSCodeも\1))を使う --(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ --(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ --(..)\1\1 --(...)\1 ***正規表現に関する参考資料 [#w86de08b] //-サクラエディタの正規表現:https://sakura-editor.github.io/help/HLP000089.html -正規表現に関する本 [[amazonで検索>https://www.amazon.co.jp/s?k=%E6%AD%A3%E8%A6%8F%E8%A1%A8%E7%8F%BE]] //-ゲームの紹介: //--[[正規表現を学ぶ狩りに出ようRegex Hunting>https://www.regex-hunting.com/]] ***補足:Wordのワイルドカードと正規表現 [#ob585ec6] -https://note.com/jinbunxshakai/n/n8070db080041 **「ひまわり」の準備 [#a1c1b435] -[[全文検索システム「ひまわり」>https://csd.ninjal.ac.jp/lrc/?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] ***「ひまわり」のインストール [#o7207f74] +[[ひまわり のダウンロードページ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.7]]からプログラム本体(zipファイル)をダウンロード +zipファイルを右クリックしてプロパティを見る→「セキュリティ」の右の「許可する」をチェックして「OK」 +ダブルクリックして開き、中のフォルダをまるごと(USBメモリに)コピー +フォルダ内のhimawari.exeをダブルクリックで起動(MacはHimawari.jar、または最初からMac版をインストール) ***「青空文庫パッケージ」のインストール [#q65dfc0e] +青空文庫パッケージのダウンロード ++[[ひまわり用「青空文庫」パッケージのダウンロードページ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8#g26eb865]]から「日本文学/小説(ndc913) 」をUSBメモリに直接ダウンロードして保存(サイズが大きいので大学のPCではダウンロードできない) +himawari.exeを起動 ++Himawari画面のファイル→インストールをえらび、青空文庫パッケージのzipファイルを指定 ++しばらく待つと完了(場合によっては数分から10分程度はかかる) +要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する ***全文検索システム「ひまわり」 [#a2814a7f] -[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --ただのテキストファイル(プレーンテキスト)ではなく、XML形式にして、インデックスを付けた専用のデータを利用 --自分で専用のデータを作ることもできるが、できあがって公開されているパッケージを利用するのが普通 &ref(Himawari_SS.png,,50%); ***「ひまわり」とその使い方 [#a3d55af3] -ひまわりの動作確認 -検索方法の説明 -ひまわりの正規表現について([[授業資料/Himawariの正規表現]]) -ふりがなの検索 **04/25 テキストエディタと正規表現 [#a958e578] ***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d6f] -CSVファイルとは:テキストファイルで表を表現する [[用語:CSVファイル>http://e-words.jp/w/CSV.html]] -KWIC:KeyWord In Context ***正規表現とは [#d216d4e0] -''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]] --文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する --テキストエディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている) --特殊な文字(メタ文字)はすべて半角 //--特殊な文字そのものを表す場合には\でエスケープする(特殊な意味を打ち消す) 例:1\+2 ***正規表現のいろいろ [#q514651f] -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの否定(補集合)[^ ] --繰り返し ? + * --グループ化 () --or(論理和) | --文頭 ^、文末 $ ***正規表現の応用 [#c7a3ea2d] -カタカナ語 --カタカナ(外来語)の形容動詞語幹 -送りがなの揺れ(行う/行なう) -会話文中("「"で始まる文中)の用例を検索する -同一文中での共起 --全然~ない。 --もし~なら(ば) **04/18 テキストデータと文字コード [#d34ebd0b] ***文字コード [#g8eacf69] -[[授業資料/文字コード関連リンク]] ***テキストデータ [#k896318b] -すべての基本となる文字が並ぶだけのデータ -[[授業資料/テキストデータとは]] --バイナリデータとテキストデータ --テキストデータとテキストファイル -TXT,CSV,HTM… --ファイルの種類と拡張子 参考:[[拡張子辞典>http://www.7key.jp/data/ext_new/]] --[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]] -授業で使うテキストデータ --[[授業資料/テキストデータ紹介]] ***テキストエディタ [#q7ae852c] -テキストエディタとはどんなものか --[[授業資料/テキストエディタ]] ***テキストエディタのダウンロードとインストール [#bf5ea59f] -フリーソフトウェア(無償)のMicrosoft [[Visual Studio Code>https://code.visualstudio.com/]](VSCode)を使います。 ***インストールと最初の設定 [#jf88f4f2] -VS Codeのインストール ++WindowsのスタートメニューからMicrosoft Storeを起動 ++VSCodeを検索 ++インストール をクリック -または ++ブラウザでhttps://code.visualstudio.com/ へ ++Download for Windowsをクリック ++~.exeをダブルクリックして指示に従う -最初の設定 +拡張機能 Japanese Language Packの追加 --参考:https://zenn.dev/ayatokura/articles/vscode-article-2 +ファイルオープン時にエンコーディングを自動判別するよう設定 --参考:https://www.javadrive.jp/vscode/setting/index3.html ***テキストエディタを使ってみる [#zc42842b] -テキストエディタの設定 --行の折り返し Alt+Z --行番号表示 ---スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号) -練習用サンプルデータ(漱石 こころ.txt) --[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/sample.zip?dl=1]] -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する ***ショートカットキー [#da449f25] -Windowsの主なショートカットキー[[授業資料/覚えておきたいショートカットキー]] --Macのショートカットキー https://support.apple.com/ja-jp/HT201236 ***テキストデータ(青空文庫の夏目漱石作品)の配布 [#bd04ed6f] -★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] (今日の授業で使います) ***正規表現を使ってみる [#u471d57b] -文字クラス --例:読[まみむめもん] ---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字 ***参考 [#l68fca2c] -[[授業資料/テキストエディタと正規表現]] ***USBメモリの準備について [#v2ebc37c] **04/11 イントロダクション [#j7eb4b41] -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/ ---[[言語資源開発センター>https://clrd.ninjal.ac.jp/]] -シラバス確認 --この授業の[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2025&value(semekikn)=1&value(kougicd)=125236130&value(crclumcd)=50225-0100]] --この授業の目的 --授業の進め方 --評価方法 ***授業で利用する主なソフトウェア [#i06478d2] |ソフトウェアの種類・名前|利用目的|h |テキストエディタ %% [[''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]] &br;or%% [[''VisualStudio Code ''>https://code.visualstudio.com/]]|テキストデータの作成・整備、正規表現を使った検索など| |[[全文検索ソフト''ひまわり''>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索| |表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成| |ワープロ''Word''|文書構造を意識したレポート作成| ***授業で利用する主なデータ [#g7f34e64] -[[青空文庫>https://www.aozora.gr.jp/]]の近代の小説 -国立国語研究所のコーパス --[[「現代日本語書き言葉均衡コーパス」>https://clrd.ninjal.ac.jp/bccwj/]] --[[「日本語日常会話」>https://www2.ninjal.ac.jp/conversation/cejc.html]] --[[「昭和・平成書き言葉コーパス」>https://clrd.ninjal.ac.jp/shc/]] --[[「日本語歴史コーパス」>https://clrd.ninjal.ac.jp/chj/]] ***デモ [#hb184f26] --テキストエディタとgrep, 正規表現 --全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --Excel(ピボットテーブル) --形態素解析:[[Web茶まめ>https://chamame.ninjal.ac.jp]] -現代語コーパス --[[少納言>https://shonagon.ninjal.ac.jp]]