japanese-hubert-base-phoneme-ctc-v4

rinna/japanese-hubert-base を CTC での日本語音素認識にファインチューニングしたモデルです。

v3 からの変更点

• 発音の候補に対して CTC loss の計算を行うモデルを prj-beatrice/japanese-hubert-base-phoneme-ctc-v3 の 50k ステップ時点のモデルに変更
• 学習データから除外する文の条件を次のように変更
  • 「ミュニ」「シミュレ」「行っ」「原因」「満員」「店員」「全員」「会員」「唯一」「洗濯機」「学館」「李克強」「旅客機」「皆」「本当」「ベッド」「ハリウッド」「レッド」「ピラミッド」「スタッド」「キッド」「ハイブリッド」「ポッド」「Pod」「Ｐｏｄ」「パッド」「Pad」「Ｐａｄ」「キューピッド」「グリッド」「ゴッド」「サラブレッド」「バグダッド」「ユナイテッド」「ビビッド」「ヴィヴィッド」「バッグ」「ビッグ」「ダッグ」「ドッグ」のいずれかが含まれた文は学習データから除外
  • 「すみません」が含まれた文の 15/16、「行く」「ている」が含まれた文の 7/8、「蔓延」「万円」が含まれた文の 3/4、「らな」が含まれた文の 1/2 を学習データから除外
  • 「十」「0」「０」のいずれかが含まれた文のうち、pyopenjtalk-plus で推定された発音に「ジュッ」が含まれるものは学習データから除外
• 語の末尾の「ティ」「ディ」はそれぞれ「ティー」「ディー」に置換
• 「ウェイター」「ウェーター」「ウェイトレス」「ウェートレス」「ウェディング」「ウェイトリフティング」「ウェートリフティング」「ウェイトトレーニング」「ウェートトレーニング」「ウェスト」「ウェストミンスター」「ウェスタン」「ウェットティッシュ」「ウェットシート」「ウェットタオル」「ウェットスーツ」「デラウェア」に含まれる「ウェ」を「ウエ」に置換
• 「チャンピオン」の発音を「チャンピョン」に変更
• 「きれい」の発音を「キレー」に変更
• 「Ａ」「Ｊ」「Ｋ」の発音をそれぞれ「エー」「ジェー」「ケー」に変更
• MeCab の N-best で推定した候補で「８」の発音が「ハッ」などとなっている場合に、その部分の発音を「ハチ」に置換したものも候補に追加する
• 学習に使用する GPU を A100 から A6000 に変更
• 途中でエラーが出たため、110k ステップで学習を中断

その他の条件は v3 と同じです。