日本語テキスト処理基礎講座2023
①テキストエディタと正規表現†
テキストファイルとテキストエディタ†
準備:VS Codeのインストールと設定†
- VS codeのインストール
- 拡張機能 Japanese Language Packの追加
- ファイルオープン時にエンコーディングを自動判別するよう設定
テキストデータと文字コード†
テキストデータ†
テキストエディタを使ってみる†
- ダウンロードしてVS codeで開き、UTF-8で保存しなおす
- 検索
- 置換
- Grep(マッチする行の抽出):VS codeではアクティビティーバーの「検索」アイコンからファイルを検索
ショートカットキー†
正規表現とは†
- 正規表現 >用語
- 文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する
- テキストエディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている)
- 特殊な文字(メタ文字)はすべて半角
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定(補集合)[^ ]
- 繰り返し ? + *
- グループ化 ()
- or(論理和) |
- 文頭 ^、文末 $
正規表現の応用†
- カタカナ語
- 送りがなの揺れ(行う/行なう)
- 会話文中("「"で始まる文中)の用例を検索する
- 同一文中での共起
タグ付き正規表現(キャプチャ)†
- 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
- 次のように置換するととんでもないことに…
- 検索文字列:走[らりるれろっ]
- 置換文字列:★走[らりるれろっ]
- タグ付き正規表現:カッコ(半角丸カッコ)と1($2,$3…)を使う
- 授業資料/タグつき正規表現
最長一致の原則(greedy matching)†
- 正規表現は、パターンが一致する最も長い範囲にマッチする
- 例:あ+ → 【$1】
- ああああああああ → 【ああああああああ】
そのせいで…
- 例:「(.+)」 → 【$1】
- 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
- 括弧の組ごとに置換するためには「([^」]+)」 → 【$1】 のように書かなければならない
- 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
- よりかんたんに指定するには(最短一致,ものぐさ指定)
- 「(.+?)」「(.*?)」のように、繰り返し指定の+や*の後に?をつけて「+?」「*?」とする
検索文字列の中での後方参照†
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
- (..)\1\1
- (...)\1
正規表現に関する参考資料†
ゲームの紹介†
- 正規表現を学ぶ狩りに出ようRegex Hunting
- 【課題3】VS Codeで正規表現を使ってサンプルテキストのふりがなタグを置換で削除
Last-modified: 2023-07-19 (水) 10:45:38