市場課題|生成AIと社内知識の隔たり

社内の事情には答えにくい
生成AIは、社内の事情に関わる質問には答えにくい状態が続いています。学習に使われたのは公開されている文章が中心で、各社の規程や業務マニュアルは含まれていないためです。根拠を持たないまま文章を組み立てると、事実と異なる内容をもっともらしく返すハルシネーションが起こり、確認の手間が増えます。
教師データの整備に人手が要る
自社のデータでモデルを学習させる用途では、教師データの整備が負担です。正しくラベルを付けるアノテーション(AIに学習させるデータへ正解の情報を付ける作業)は、対象が数万点に及ぶこともあり、担当者ごとに判断が割れて基準がばらつきます。作業量と期間を見積もりにくいため、導入する企業では試験導入の段階で計画が止まりやすくなります。
他にも、担当者に依存する属人化、機密文書を社外のAIへ入力しにくい制約、導入後に使われない状態、といった課題があるといわれています。
- ハルシネーション生成AIが、学習した範囲に根拠がない事柄を、事実であるかのような文章で出力する現象を指す。文章としては自然に読めるため、読み手が誤りに気づきにくい点が問題とされる。


