llm-book/bert-base-japanese-v3-crf-ner-wikipedia-dataset
「大規模言語モデル入門」の第6章で紹介している固有表現認識のモデルです。 cl-tohoku/bert-base-japanese-v3の出力層にCRF層を組み合わせたモデルをllm-book/ner-wikipedia-datasetでファインチューニングして構築されています。
関連リンク
使い方
from transformers import pipeline
from pprint import pprint
ner_pipeline = pipeline(
model="llm-book/bert-base-japanese-v3-crf-ner-wikipedia-dataset",
aggregation_strategy="simple",
)
text = "大谷翔平は岩手県水沢市出身のプロ野球選手"
# text中の固有表現を抽出
pprint(ner_pipeline(text))
# [{'end': None,
# 'entity_group': '人名',
# 'score': 0.7792025,
# 'start': None,
# 'word': '大谷 翔平'},
# {'end': None,
# 'entity_group': '地名',
# 'score': 0.9150581,
# 'start': None,
# 'word': '岩手 県 水沢 市'}]