「正しそうなのに間違っている」── ハルシネーションとは
生成AIは、文脈から次の言葉を予測して文章を生成します。この仕組みのため、「読んで自然な文章を作る」ことは得意でも、「その内容が事実かどうかを検証する」機能は持っていません。
結果として起きるのがハルシネーションです。存在しない数字・規格番号・製品スペックを、まったく迷いなく、自信を持って生成することがあります。
これが「もっともらしい嘘」と呼ばれる理由です。文章として読んでも違和感がない。しかし内容が間違っている。この特性を知った上で使うことが、製造現場でAIを業務に組み込む第一条件です。
製造現場で特に気をつける3つの場面
数字・寸法・仕様
「この素材の引張強度は〇MPaです」「この製品の公差は±〇mmです」── AIが出す数値は、正しく見えても根拠がないことがあります。設計・品質基準に直結する数字は、カタログや規格書で原典を確認します。
法令・規格番号
JISや業界標準の規格番号、法令の条文・バージョンをAIに確認させると、存在しない条文や改正前の古い情報が出ることがあります。AIの回答は「調べるきっかけ」として使い、必ず一次資料で裏付けます。
取引先・製品の固有情報
「〇〇社の納期は通常〇日です」「標準ロットは〜」── 固有名詞を含む情報は、AIが断片的な情報から組み立てているため、実態と一致しない可能性があります。
ハルシネーションを見抜く3つのサイン
「これは疑わしいかもしれない」と気づくための判断ポイントです。
1. 根拠なしに、やけに具体的な数値が出てくる ソースを示さず、具体的な数字や規格番号が断定的に現れる場合、出所不明の可能性があります。
2. 自信満々なのに確認できない 「〜となっています」と断定しているにもかかわらず、AIが示した文献やURLを検索しても見つからない場合は要注意です。
3. 知っていることと少しずれている 自分が知っている事実と微妙にずれた数字や説明が出てきたとき、そのまま流さずに確認します。誤りは「全然違う」より「少しずれている」形で現れることが多い。
AIの出力を3段階に分けて確認する
すべてのAI出力を同じ厳しさで確認しようとすると、業務のスピードが落ちます。出力の性質ごとに確認レベルを分けて運用します。
レベル1: 必ず原典で確認 仕様値・寸法・規格番号・法令条文・化学物質の特性など。AIの回答は「調べるきっかけ」として使い、カタログ・規格書・公的文書で事実を確認します。
レベル2: 知識のある人が確認 技術的な手順・工程の説明・トラブルシューティングの方向性など。内容が正確でも、自社の現場の実態と合わない説明が出ることがあります。現場を知る担当者が読んで判断します。
レベル3: 読んで確認 メール文案・報告書の下書き・会議メモの整理など。事実の数字が少なく、文章の品質が主な確認点です。誤字・おかしな表現がないか読んで確認します。
ハルシネーションを減らす「使い方」の工夫
確認でリスクを下げることが基本ですが、そもそも誤回答が出にくい使い方もあります。
「作って」より「直して」 AIに情報を一から生成させるより、自分が把握している内容をAIに見せて「整理して」「読みやすくして」という使い方のほうが、ハルシネーションは起きにくい。AIに「材料を渡してまとめてもらう」使い方が安全です。
確認できない情報を期待しない 最新情報・取引先の固有情報・現時点の法令内容は、AIが確認できない領域です。そこをAIに期待しない使い方に切り替えます。
根拠を書かせる 「なぜそう判断したか、理由も書いて」と指示すると、根拠のない情報はAIが弱い表現になる場合があります。断言と根拠の組み合わせがおかしいときに気づきやすくなります。
AIは「調べる起点」として使う
ハルシネーションは生成AIの構造的な特性であり、完全になくなるものではありません。しかし使い方を工夫し、確認の仕組みを整えれば、現場の業務に組み込める道具として機能します。
現実的な立場は「AIを調べる起点・書く起点として使い、事実の確認は人間が行う」です。長野・諏訪・岡谷の製造業では特に、数字・仕様・法令に関わる部分は人が原典を確認する──この運用ルールを決めれば、AIを現場に導入する準備が整います。
私たちの進め方
私たちは、AIを現場に導入する際に「どこまでAIの出力を信頼し、どこで人が確認するか」を業務ごとに整理します。
ハルシネーションの特性を踏まえた上で、現場のリスクに応じた確認の仕組みを一緒に設計するのが、私たちの役割です。効果が見込めない使い方については、その旨をはっきりお伝えします。