日本語NLPアノテーション — エンティティ・関係・分類

お客様のパイプラインが使っているものを使います。IPAdicまたはUniDicのMeCab、Sudachi、Juman++、あるいはお客様のモデル自身のサブワードトークナイザー。キックオフで固定するのは、スパンの境界が一つの分割にしか整列しないからです。その下に文字オフセットを保持しておくので、あとから解析器を変えても、再アノテーションではなく再エクスポートで済みます。

はい。当社のものを押しつけるより、お客様のものを採用したいと考えています。そのうえで行うのは、まずサンプルで負荷をかけて試すことです。既存のタキソノミーには、実運用で重なることが判明するカテゴリが2つか3つあるのが普通で、それをパイロットで見つけるほうが、5万件が終わってから見つけるよりはるかに安く済みます。

タスク次第としか言えません。きれいなテキスト上の切れ味のよいエンティティタイプなら、高い一致率にすぐ到達します。アスペクトベースのセンチメントや細粒度の意図タキソノミーはそうなりません。そうならないと主張するプロジェクトは、たいてい納品物より易しいものを測っています。当社はパイロットで得たラベル別の実測値を報告し、あるカテゴリが実用に足る一致率に届かない場合は、そう申し上げたうえでカテゴリの変更を提案します。

はい。タキソノミーが本当に必要とする場合に対応します。理由はたいてい、日本語の複合名詞と組織名です。入れ子のルールはガイドラインに明記し、自動で検証します。許可されているのに規定されていない入れ子は、確実に不整合の温床になるからです。

はい。モデル出力の修正は大量作業では効率的ですが、注意点は他と同じです。修正工程はモデルの死角を引き継ぎがちです。そこで修正工程をゼロからのサンプルと突き合わせて計測し、実際に何を拾えているかをお伝えします。評価セットについては、ゼロからアノテーションします。