#author("2021-07-07T15:48:39+00:00;2021-07-02T07:56:47+00:00","default:ogiwiki","ogiwiki")
#author("2021-07-08T07:30:57+00:00;2021-07-02T07:56:47+00:00","default:ogiwiki","ogiwiki")
**コロケーション強度 [#q37ee645]

共起する語(AとB)の結びつきの強さについて評価するとき、単純な用例数だけでは危険
-もともと頻度が高いもの同士が共起することが多いのは当たり前だから
AとBのそれぞれの頻度(やコーパスのサイズ)も考慮して、本当に共起しやすいのかを図る指標が必要

***いろいろな指標 [#l1eaa24f]
コロケーション強度をはかるスコアには様々なものがあり、それぞれに特徴がある(以下、AとBが共起するものをA&Bで示す)
-ダイス係数
--=2×(A&Bの用例数/(Aの用例数+Bの用例数)) 
---=2*B5/(C$2+C5)

---(参考リンク)[[集合の類似度(Jaccard係数,Dice係数,Simpson係数) >https://mieruca-ai.com/ai/jaccard_dice_simpson/]]

-Tスコア
--=(A&Bの用例数 - (Aの用例数×Bの用例数/コーパスの総語数))/√A&Bの用例数
---=B5-(C$2*C5/C$1)/SQRT(B5)
-MIスコア([[相互情報量>https://ja.wikipedia.org/wiki/%E7%9B%B8%E4%BA%92%E6%83%85%E5%A0%B1%E9%87%8F]])
--=log[2] (A&Bの用例数×コーパスの総語数)/(Aの用例数×Bの用例数)
---=LOG((B5*C$1)/(C$2*C5),2)

-コーパスサイズを考慮に入れないダイス係数は、異なるコーパス間で各々の値を比較できないことに注意
※コーパスサイズを考慮に入れないダイス係数は、異なるコーパス間で各々の値を比較できない(同じコーパスの中での比較しかできない)ことに注意

(例)
-例:「玉葱」と共起する(3語以内)動詞の場合
--A&B= 「玉葱〜炒める」の用例数:46
--A&B= 「玉葱&炒める」の用例数:46
--A=「炒める」の用例数:2069
--B=「玉葱」の用例数:2087
--ダイス係数=2*(46/(2069+2087))=0.0221

-[[サンプルデータ collocation.xlsx>https://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=collocation.xlsx&refer=%BC%F8%B6%C8%BB%F1%CE%C1%2F%A5%B3%A5%ED%A5%B1%A1%BC%A5%B7%A5%E7%A5%F3%B6%AF%C5%D9]]


***それぞれの数値の調べ方 [#m2a4363c]
※用例数だけがわかればいいが、「中納言」は用例を取得するためのツール(コンコーダンサー)なので、複数の語の用例数を求めるのに手間がかかる
-コーパスの語彙表を使えばよい(中納言での検索は不要)
-語彙表をVLOOKUPで検索して頻度を持ってくるようにすると便利(ただしサイズが大きいので重い)

-たくさんの語を中納言で一度に検索するために、自分で作った語彙リストをエディタで整形し、検索条件式で一括検索する方法もある

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS