#author("2021-05-06T00:30:11+00:00","default:ogiwiki","ogiwiki")
#author("2021-05-06T09:46:22+00:00","default:ogiwiki","ogiwiki")
[[FrontPage]]
*九州大学:国語学講義 III / 日本語学方法論特論 III [#td0ed75f]
**コーパス日本語学 [#f20f4b84]
-前期木曜2限:10:30-12:00
-Mail: ogiso@ogiso.net

//-初回(2021年4月8日)の授業は下記のZoomミーティングで行います。(ミーティングID: 955 7075 9062)
//--https://zoom.us/j/95570759062
//-パスコードは授業シラバスのページの特記事項の欄を見てください。

//-''&color(red){2021年4月15日以降の授業はTeamsミーティングで行います。};''毎回同じアドレスです。
-''2021年4月15日以降の授業はTeamsミーティングで行います。''毎回同じアドレスです。
--会議のURLは下記の[[Moodle>https://moodle.s.kyushu-u.ac.jp/]]の[[授業コースのページ>https://moodle.s.kyushu-u.ac.jp/course/view.php?id=37105]]で確認してください。
---&color(red){https://moodle.s.kyushu-u.ac.jp/course/view.php?id=37105};
//--コースはMoodleで「コーパス日本語学」や「小木曽」で検索しても見つかります。


**5月13日(第5回) コーパスの形態論情報(2) [#j39590ef]

-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]の品詞体系にもとづく
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]


***形態素解析とその仕組み [#hf81dcf2]
-[[授業資料/形態素解析]]


***中納言の使い方 [#mf5d144c]
-[[中納言の使い方>https://moodle.s.kyushu-u.ac.jp/pluginfile.php/980893/mod_folder/content/0/%E4%B8%AD%E7%B4%8D%E8%A8%80%E3%81%AE%E4%BD%BF%E3%81%84%E6%96%B9.pdf]]


**5月6日(第4回) コーパスの形態論情報 [#ab202b7c]


-''&color(red){都合により、30分程度遅れて開始します。(11:00ごろ〜12:00)};''
//-''&color(red){都合により、30分程度遅れて開始します。(11:00ごろ〜12:00)};''
-''都合により、30分程度遅れて開始します。(11:00ごろ〜12:00)''


***紙の資料からコーパスまで 〜テキストの電子化とアノテーションの高度化 [#s7dfd61c]

+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト:テキスト (199x年代〜)
--[[授業資料/テキストデータ紹介]]
+構造化テキスト:テキスト+XMLによる構造化タグ (200x年代〜)
--[[太陽コーパス>https://ccd.ninjal.ac.jp/cmj/taiyou/]]など
+単語情報付きのコーパス:テキスト+XMLによる構造化タグ+形態論情報 (201x年代〜)
--[[現代日本語書き言葉均衡コーパス(BCCWJ)>https://ccd.ninjal.ac.jp/bccwj/]]など
--[[日本語歴史コーパス(CHJ)>https://ccd.ninjal.ac.jp/chj/]]など


***電子化とアノテーション(明六雑誌コーパスを例に) [#nb9967ee]
-明六雑誌コーパス:https://ccd.ninjal.ac.jp/cmj/meiroku/

-ファイル形式と実例
++電子テキスト:プレーンテキスト
++構造化テキスト:XMLファイル
++単語情報付きデータ:単語情報を埋め込んだXML /XMLファイル+CSVファイル
--(発展)XMLの限界とスタンドオフアノテーション

-それぞれの利用アプリケーション
++電子テキスト:テキストエディタ+grepなど
++構造化テキスト:全文検索システム[[「ひまわり」>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
++単語情報付きデータ:中納言(オンライン)/[[Chaki.Net>https://ja.osdn.net/projects/chaki/]](PC上)


***コーパスの形態論情報(1) [#w3c3c79b]
--https://ccd.ninjal.ac.jp/bccwj/morphology.html

-短単位と長単位
--[[(スライド)長単位と短単位>https://moodle.s.kyushu-u.ac.jp/pluginfile.php/980893/mod_folder/content/0/02%E7%9F%AD%E5%8D%98%E4%BD%8D%E3%81%A8%E9%95%B7%E5%8D%98%E4%BD%8D.pdf]] 参照
--[[長単位と短単位・資料>https://moodle.s.kyushu-u.ac.jp/pluginfile.php/980893/mod_folder/content/0/%E7%9F%AD%E5%8D%98%E4%BD%8D%E3%81%A8%E9%95%B7%E5%8D%98%E4%BD%8D%E3%83%BB%E8%B3%87%E6%96%99OW1X_00003.docx?forcedownload=1]] 単位切りの例
--(参考)動画:コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU

-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://moodle.s.kyushu-u.ac.jp/pluginfile.php/980893/mod_folder/content/0/%E4%B8%AD%E7%B4%8D%E8%A8%80%E3%81%AE%E4%BD%BF%E3%81%84%E6%96%B9.pdf]]


-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]の品詞体系にもとづく
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]


***形態素解析とその仕組み [#hf81dcf2]
-[[授業資料/形態素解析]]


**4月22日(第3回) コーパスの設計2 [#ab202b7c]
(''[[Moodleに置いたスライド>https://moodle.s.kyushu-u.ac.jp/mod/resource/view.php?id=549970]]参照'')

-ともかく「[[中納言>https://chunagon.ninjal.ac.jp/]]」([[BCCWJ>https://chunagon.ninjal.ac.jp/bccwj-nt/]],[[CHJ>https://chunagon.ninjal.ac.jp/chj/]])を使ってみる

***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング (つづき) [#s92bdf91]
-https://ccd.ninjal.ac.jp/bccwj/

-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性がある(representative)」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス★ここから↓(スライド41ページ)
--可変長と固定長
-著作権をめぐる問題

***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/

-残された資料に限りがある(そもそも偏りがある)歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難

:近世以前|残されている資料が少なく、できるだけ(可能なら全部)コーパスに入れたい
:近世(後期)以降|偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい(作品など資料単位で調査したい)

-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]の中身
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを取って作品単位でサンプリング


***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou/index.html]]:8年おきに12冊ずつを対象
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文藝春秋)
-近代小説 
※明日の夕方に公開予定
--複数の有識者が日本語資料として選定・投票した結果(1980年代に作成した資料)をもとにサンプリング
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf

***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CHJの時代・ジャンル等)



**4月15日(第2回) コーパスの設計 [#d3ad8ff2]

***「中納言」のアカウントについて [#q6b1b11e]
-授業アカウントの配布


(以下、''[[Moodleに置いたスライド>https://moodle.s.kyushu-u.ac.jp/mod/resource/view.php?id=549970]]も参照'')

***コーパスとは [#t54768fa]

:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
---[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
-言語学分野では前者、自然言語処理分野などでは後者の意味で使いがち。

-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス(BCCWJ)」と「日本語歴史コーパス(CHJ)」


***コーパスに求められるもの [#h042f3fe]

-コーパス以前の電子化日本語資料(とその限界)
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www.ne.jp/asahi/nihongo/okajima/bungaku.htm]]
--出版社による電子出版物(CD-ROM)
---新潮文庫の100冊 etc.
--新聞のデータベース(CD-ROM)
---毎日新聞CD-ROM etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus

-(現代語)コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
--著作権の問題がないこと
--言語研究に利用できる情報がついていること


***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング [#s89fe505]
-https://ccd.ninjal.ac.jp/bccwj/

-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性がある(representative)」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題


***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://ccd.ninjal.ac.jp/bccwj/index.html]]
--BCCWJの基本設計:https://ccd.ninjal.ac.jp/bccwj/basic-design.html
--サンプリング:https://ccd.ninjal.ac.jp/bccwj/sampling.html
--XMLによる電子化:https://ccd.ninjal.ac.jp/bccwj/XML.html



**4月8日(第1回)イントロダクション/日本語コーパスの紹介 [#wdd4ab2f]

***イントロダクション [#z7ffa4ea]

-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
--[[国立国語研究所コーパス開発センター>https://ccd.ninjal.ac.jp/corpus_center/]] https://ccd.ninjal.ac.jp/corpus_center/


-(参考)国語研オープンハウス2020 https://www2.ninjal.ac.jp/openhouse2020/
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR2K2h2E


***授業内容等の確認 [#e55ee18f]

-[[シラバス>https://www2.lit.kyushu-u.ac.jp/~syllabus/cgi-bin/table-odd.cgi?thisyear=2021&num=1310103&show=S1110000&big=B00000&each=1]]の確認
--この授業の目的
--授業の進め方
--評価方法


-受講者アンケート
--関心のある分野について
--PC等のスキルについて


***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register


***授業で利用する主なソフトウェア・Webアプリケーション(予定) [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]]|コーパスの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形|
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索,ミニコーパスの作成|
|[[R>https://www.r-project.org/]]|データの統計分析|


***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://ccd.ninjal.ac.jp/corpus_center/bccwj/]]
---[[梵天(BCCWJ文字列検索)>https://bonten.ninjal.ac.jp/bccwj/string_search]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://ccd.ninjal.ac.jp/corpus_center/chj/]]
-Excelによる集計(ピボットテーブル)
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
-[[R>https://www.r-project.org/]]

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS