#author("2025-06-03T12:48:00+09:00","default:ogiwiki","ogiwiki")
#author("2025-06-03T12:48:51+09:00","default:ogiwiki","ogiwiki")
[[総研大2025]]

-[[シラバス>https://cplan-web.soken.ac.jp/Kyoin/web/Syllabus/WebSyllabusSansho/UI/WSL_SyllabusSansho.aspx?P1=40JLS00101&P2=2025&P3=20250512]]
:2025/5/27|小木曽智信:[[国語研の書き言葉コーパスについて最新の研究を含めて概説する。>#he314895]]
:2025/6/3|小木曽智信:[[国語研コーパスへの形態論情報の付与について最新の研究を含めて概説する。>#n89c5b2a]]


**2025/05/27 国語研の書き言葉コーパス [#he314895]
国語研の書き言葉コーパスについて最新の研究を含めて概説する。

-[[資料置き場>https://ninjal.sharepoint.com/sites/2025flrIIIA]]
--スライド1~3参照

***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング [#s89fe505]
-https://clrd.ninjal.ac.jp/bccwj/

-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長

***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://clrd.ninjal.ac.jp/bccwj/index.html]]
--BCCWJの基本設計:https://clrd.ninjal.ac.jp/bccwj/basic-design.html
--サンプリング:https://clrd.ninjal.ac.jp/bccwj/sampling.html
--XMLによる電子化:https://clrd.ninjal.ac.jp/bccwj/XML.html

***BCCWJ2 [#pab5a646]
-BCCWJ拡張計画 https://www2.ninjal.ac.jp/BCCWJ2/
--従来の1億語に2006年から2025年までのデータが追加され、“BCCWJ2” として2億語規模のコーパスになります

***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://clrd.ninjal.ac.jp/chj/

-残された資料に限りがある(そもそも偏りがある)歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難

:近世以前|残されている資料が少なく、できるだけ(可能なら全部)コーパスに入れたい
:近世(後期)以降|偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい(作品など資料単位で調査したい)

-[[『日本語歴史コーパス』>https://clrd.ninjal.ac.jp/chj/]]の中身
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを取って作品単位でサンプリング


***近代語コーパスの場合 [#p0de8288]
-[[近代雑誌コーパス>https://clrd.ninjal.ac.jp/cmj/]](現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://clrd.ninjal.ac.jp/cmj/taiyou/index.html]]:8年おきに12冊ずつを対象
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文藝春秋)
-近代小説 
--複数の有識者が日本語資料として選定・投票した結果(1980年代に作成した資料)をもとにサンプリング
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf


***「昭和・平成書き言葉コーパス」(SHC)の構成 [#vfbcaa59]
-https://clrd.ninjal.ac.jp/shc/

-CHJの後を受けて現代までを通時的に研究するためのコーパス。1933年以降、8年おき11か年分(1933・1941・1949・1957・1965・1973・1981・1989・1997・2005・2013)を収録。
-2023年5月公開

:雑誌|1933~1957 年刊の『中央公論』と1965~2013 年刊の『文芸春秋』(8年おき11か年分)
:ベストセラー書籍|1933年以降、8年おき11か年のベストセラー書籍
:新聞|1933年以降、8年おき11か年の『読売新聞』奇数月2日の朝刊1冊

-[[論文:小木曽智信・近藤明日子・髙橋雄太・間淵洋子編(2024)「『昭和・平成書き言葉コーパス』の設計・構築・公開」『情報処理学会論文誌』65(2)>https://clrd.ninjal.ac.jp/shc/doc/IPSJ_SHC.pdf]]


***コーパスと著作権 [#xa8ac945]

-スライド参照


**2025/06/03 国語研のコーパスの形態論情報 [#n89c5b2a]

国語研コーパスへの形態論情報の付与について最新の研究を含めて概説する。

--[[資料置き場>https://ninjal.sharepoint.com/sites/2025flrIIIA]]
--スライド3~5参照

***前史:現代語の語彙調査 [#xe69f449]
-『婦人雑誌の用語』国立国語研究所(1953)
--https://doi.org/10.15084/00001213
など

***コーパスの形態論情報 [#w3c3c79b]
--http://clrd.ninjal.ac.jp/bccwj/morphology.html

-短単位と長単位
--[[(スライド)長単位と短単位>https://ninjal.sharepoint.com/:p:/s/2024flrIIIA/ETDwLKPVYdhEruG2_ZtR5NABG7HdzmgDDB37spYG_8S69Q?e=C520az]] 参照
--[[長単位と短単位・資料>https://www.dropbox.com/scl/fi/5cag0a89vge3tqm8iymcw/OW1X_00003.docx?rlkey=jqbkv5p8jempynfb6a0go5k3f&dl=0]] 単位切りの例
--(参考)動画:コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU

-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://www.dropbox.com/scl/fi/g45287uv22sz3q44f3scq/.pdf?rlkey=z9unocea1hdwgpf3d0ffoitep&dl=0]]


***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]の品詞体系にもとづく(BCCWJのために開発されたのがUniDic)
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]

***コーパスへの形態論情報の付与 [#sfd1b3f3]

-短単位:MeCabとUniDicを使った形態素解析で情報付与
--[[MeCab 形態素解析器>https://taku910.github.io/mecab/]]
--[[UniDic 形態素解析用短単位辞書>https://clrd.ninjal.ac.jp/unidic/]]
-長単位:Monakaなど((BCCWJ1ではComainu))で短単位を組み上げる
--[[長単位解析器 Monaca>https://github.com/komiya-lab/monaka]]


***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]](MeCabとUniDicによる形態素解析をオンラインで行うツール)
--https://chamame.ninjal.ac.jp/

--[[歴史的資料>]]、[[方言>https://kaken.nii.ac.jp/ja/grant/KAKENHI-PROJECT-23H00007/]]に対応
--[[歴史的資料>https://clrd.ninjal.ac.jp/unidic/download_all.html#unidic_chj]]、[[方言>https://kaken.nii.ac.jp/ja/grant/KAKENHI-PROJECT-23H00007/]]に対応


***形態素解析の仕組み [#e1069790]

-[[授業資料/形態素解析]]


***長単位解析 [#c1815543]

-長単位解析器 Monaca
--https://github.com/komiya-lab/monaka

-Web茶まめで長単位解析(試行版)
--https://chamame.ninjal.ac.jp/chamame-monaka/


***(参考)辞書なしのトークナイザー [#q82c8c8b]
-[[SentencePiece>https://qiita.com/taku910/items/7e52f1e58d0ea6e7859c]]
--https://github.com/google/sentencepiece
--学習データ不要・言語非依存、ニューラル言語処理向けの定番


***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.15084/00002855]]・[[第4版 下>http://doi.org/10.15084/00002856]]

//※冊子を配布します。

トップ   編集 差分 履歴 添付 複製 名前変更 リロード   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS