#617　四つの妙な話

AIの「ハルシネーション（事実誤認）」が引き起こす見えない恐怖

最近、経営者の方とお話ししていると、生成AIの話題になることがよくあります。
「AIって、平気で嘘をつくよね」「この前調べ物をしたら、全然違う答えが返ってきて笑っちゃったよ」——そんな風に、AIの未熟さを面白おかしく語る方は少なくありません。

しかし、それが「自分が調べ物をしている時」の話ではなく、「自社の看板」についてAIが平然と嘘をついているとしたらどうでしょうか。

企業の代表電話が鳴る。商談の断り連絡が入る。内定辞退のメールが届く。 経営層が直接その電話を取り、メールを最初に受け取ることは滅多にありません。だからこそ、経営層の「死角」で、ある異変が静かに進行していることに、多くの企業はまだ気づいていないのです。

「最近、なぜか間違い電話が増えたんですよね」
「あんなに順調だった商談が、突然ひっくり返った」

お客様と雑談をしていると、現場から吸い上げられたそんな「小さな違和感」を耳にすることが増えました。「景気のせいかな」「たまたま運が悪かった」——多くの場合、それは日常の些細なトラブルとして処理されてしまいます。

もちろん、さまざまな要因が考えられるでしょう。
しかし、私たちから見ると、ある一つの不気味な可能性が透けて見えます。 それは、自社のWebサイトの情報を放置していることによって引き起こされた、AIによる「ハルシネーション（事実誤認）」がもたらすリアルな実害です。

「AIの嘘」は、決して笑い事ではありません。
特定の企業がわからないよう少し脚色は交えますが、実際に起きている「見えない機会損失」の4つのエピソードをご紹介します。

エピソード1：鳴らないはずの電話
〜ある法律事務所の「間違い電話の怪」〜

ある法律事務所（仮にA事務所とします）での出来事です。
A事務所は、昨今増え続ける執拗な営業電話を回避するため、あえて公式サイトに電話番号を大きく載せていませんでした。「問い合わせフォームで十分」という判断のもと、どうしても必要な人だけが、深い階層のページから画像化された番号を見つけられる作りにしていたのです。普段、代表電話が鳴ることは稀でした。

しかし、ある時期を境に、現場の総務担当者が首を傾げるようになります。

「最近、全く関係のない一般の方からの間違い電話が、急に増えているんです。〇〇市役所の相談窓口ですか？ と聞かれることが多くて……」

経営層は電話を取りませんから、この異変に気づきませんでした。
総務担当者も、ただの間違い電話ですから、わざわざ上席に報告することはありませんでした。

なぜ、急に「市役所の窓口」宛ての間違い電話が増えたのか？ 原因は、AIによる「文脈の混同と名寄せの暴走」でした。

ユーザーがAIに「〇〇市役所の法律相談窓口の連絡先は？」と聞いた際、AIはネットの海からたまたまA事務所の番号（過去の電話帳データの残骸など）を拾い上げ、「これが市役所の窓口です」と平然と嘘の回答をしていました。

なぜAIは、そんな突拍子もない間違いを犯したのでしょうか？ それは、A事務所の業務内容と市役所の窓口の役割に、AIが「類似性」を見出してしまったからです。

A事務所のサイトには当然、「法律相談」や「不動産トラブル」といった言葉が並んでいます。AIはその「文脈の共通点」を見つけ出しました。しかし、A事務所のサイトには、機械（AI）が読み取れる形で「この番号は、当事務所（私企業）の公式な連絡先である」という明確な所有権の定義がされていませんでした。

結果としてAIは、自らが導き出した「法律相談」という文脈の類似性に引っ張られ、所有者が定義されていないその番号を、「市役所の窓口の番号」として勝手に繋ぎ合わせてしまったのです。賢い推論システムであるがゆえに引き起こされた、見事なハルシネーション（事実誤認）でした。

【解決のアプローチ】
もしA事務所が、裏側のシステムで「この番号は当事務所の唯一の連絡先である」と冷徹に記述していれば、AIは「これは私企業であるA事務所の番号だから、市役所の番号として答えるのは論理的におかしい」とブレーキを踏めたはずです。 私たちは即座にその『デジタル登記（構造化データの記述）』を実施。自社の情報の所有権を明確にしたことでAIの混線は正され、理不尽な間違い電話はピタリと止んだのです。

エピソード2：凍りついた笑顔
〜高単価BtoB商談の「突然の失注」〜

続いては、高品質な専門サービスを提供するBtoB企業（仮にB社とします）のエピソードです。

その商談は、初期段階から極めて順調でした。何度かの打ち合わせを経て概算の費用感も伝え、先方の担当者とも意気投合。「ぜひB社さんにお願いしたい。社内で稟議を通します」という言葉まで引き出し、B社の社長も「これは決まりだな」と確信していたそうです。

しかし、その数日後。先方から突然、「今回は見送らせてほしい」という冷たい連絡が入りました。

社長は「やっぱり予算が合わなかったのだろう」と諦めましたが、違和感は拭えませんでした。なぜなら、概算費用には納得していたはずだからです。

ここに、AI時代の恐ろしい落とし穴があります。先方の担当者が、本格的に社内稟議の書類を作る直前、ふと念のためAIにこう問いかけていたとしたらどうでしょう。
「B社が提供する〇〇サービスの、一般的な費用相場を教えて」

B社のサイトには、「自社が高品質な専門サービスであり、安価な大量生産型の対応は行わない」という明確な定義（Fact）が記述されていませんでした。するとAIは、B社を「一般的な安い業者」と勝手にカテゴライズし、世の中の最安値に近いデタラメな相場を回答してしまいます。

それを見た担当者はどう思うでしょうか。「え？ 相場より随分高いぞ。B社はウチからぼったくろうとしているのか？」と不信感を抱いたかもしれないのです。必ずしもAIだけが原因ではないかもしれませんが、後で調べてみたところ、案の定、AIはおかしな格安相場を提示していました。

【解決のアプローチ】
検索エンジン向けに「誰にでも対応します」と間口を広げる古いやり方は、AI時代には命取りになります。 私たちは現在、B社のサイトの裏側に「ウチは〇〇のような安価な対応は一切行わない」という『Notの連鎖（やらないことの定義）』を構造化データとして敷設しています。自社が何者であり、何者ではないのか。その境界線をAIに正しく認識させるための情報設計です。

エピソード3：優秀な候補者の沈黙
〜ホールディングス本社の「謎の内定辞退」〜

多店舗展開を行う小売業（仮にC社とします）の採用現場での出来事です。

C社はホールディングス体制へと移行し、本社の中核を担う優秀な管理職候補を探していました。選考も中盤から終盤に差し掛かり、人事も「この人なら本社の要になれる」と手応えを感じ、候補者本人も「ぜひ御社で働きたい」と和やかで非常に良い雰囲気になっていた時期のことです。

ところが翌日。人事のメールボックスに、その候補者から「一身上の都合により、辞退させていただきます」という定型文のメールが届きました。電話にも出てくれません。

あまりに突然のフェードアウトで、理由は全くの謎でした。しかし、候補者がその良い雰囲気の面接から帰宅した後に何をしたかを想像すれば、辻褄が合いそうです。
彼は「良い会社そうだけど、実際のところどうなんだろう？」と、少し冷静になってスマートフォンからAIにこう尋ねたかもしれません。
「C社の評判と、労働環境について教えて」

C社の公式サイトは、事業再編のスピードに追いついておらず、情報が整理されていませんでした。結果としてAIは、「ホールディングス本社の管理職」と、「現場店舗のアルバイトの過酷な労働環境（立ち仕事が多い、給与水準が低いなど）」を完全に混同して読み取っていました。

AIから「C社は給与が低く、立ち仕事が多く過酷な環境である」と無表情に告げられた候補者は、面接での和やかな雰囲気を「上手い話には裏がある。ブラック企業の罠だ」と勘違いし、恐怖から連絡を絶ってしまった可能性があります。これも、AIがハルシネーションを起こした回答をしていたことは確かでした。

【解決のアプローチ】
こうした事態を防ぐには、「本社の法人（エンティティ）」と「現場店舗の法人（エンティティ）」が別物であることを、AIが理解できる構造論理で厳密に分離して定義し直さなければなりません。 一度AIの脳内に染み付いてしまった事実誤認（レピュテーションの混同）を正すのは容易ではありません。C社では現在、定期的にAIの回答をモニタリングし、微細な構造的チューニングを続けることで、少しずつ正しい情報の主導権を取り戻している最中です。

エピソード4：一等地の待合室
〜富裕層向けクリニックの「予期せぬ行列」〜

最後は、都内の一等地にある富裕層向けの自由診療クリニック（仮にDクリニックとします）のお話です。

Dクリニックは、企業の経営者や引退した悠々自適な患者を対象に、高度で高額な保険外診療のみを提供していました。待合室は常に静かで、プライバシーが守られた空間でした。公式サイトを見れば、一目で「一般向けの町医者ではない」と分かる重厚なデザインになっています。

しかしここ数ヶ月、奇妙な現象が起きます。
「急に熱が出た」「お腹が痛い」と、保険証を持った近隣の人たちが飛び込みで来院するようになったのです。さらに、Webの予約システムにも、一般的な保険診療を求める初診の問い合わせが急増しました。

医師としては、決して保険診療を拒絶しているわけではありませんが、いわゆる「地域の町医者」として機能する設備や体制にはしていません。対応に追われ、本来のVIP患者の静かな環境が損なわれる事態に困惑していました。

なぜ、公式サイトを見れば分かりそうなものなのに、急に一般的な患者が増えたのか。 ここに、現代の「ゼロクリック検索」という趨勢の恐ろしさがあります。

急な体調不良で焦っている人は、いちいち公式サイトのデザインなど見ません。スマホでAIに「近くのすぐ診てくれる内科を教えて」と聞き、AIが提示した電話番号や地図の要約だけを見て、直接アクションを起こしてしまうのです。

Dクリニックのサイトには、提供している高度な医療技術のことは美しく書かれていましたが、裏側のデータとして「一般的な保険診療は対象外である」という明確な線引きがされていませんでした。その結果、AIは単に位置情報と「医療機関である」というざっくりとした情報だけを拾い上げ、Dクリニックを「便利な近所の町医者」として推薦してしまっていたのです。

【解決のアプローチ】
ユーザーが「サイトを見ずにAIの答えだけで動く」時代において、表側のデザインだけでブランドを語ることはもはや不可能です。 自社の独自性（グレーのグラデーション）を守るためには、「ウチは〇〇ではない」という明確な境界線の定義（FactとNotの提示）を、AIが直接読み取れる裏側のシステムに向けて論理的に行う必要があります。

結論：不毛な数字のゲームを降り、自社の「実存」を守る

いかがでしょうか。 もちろん、これらすべての原因がAIのせいだと断言するつもりはありません。

しかし、「生身の人間が見ていなくても、AIは24時間365日、あなたの会社のサイトを巡回し、勝手にプロファイリングを続けている」。そして、「未来の顧客や求職者に、事実とは異なる会社の姿を囁き続けている可能性がある」。 これは、一部の専門家だけが知る特別なデータなど見ずとも明らかな、紛れもないデジタル空間の現実です。

私たちは長らく、Webサイトを「不特定多数のアクセスを集めるためのチラシ」だと信じ込まされてきました。しかし、もはやそんな表面的な集客ゲームに一喜一憂している場合ではありません。

自社の情報が放置され、AIに勝手に輪郭を歪められていくのを黙って見過ごすのか。 見えない機会損失の連鎖を断ち切るために、今、中小企業が真っ先に行うべき「情報ガバナンス」の鉄則は、以下の4点に集約されます。

·       自社サイトに嘘を書かない、盛らないこと。
（等身大の事実を提示する）

·       AIが誤読しないよう、構造化データできっちり裏側を記述すること。（機械のための論理設計）

·       できること／できないことの線引き（FactとNot）を明確にすること。（境界線の定義）

·       AIの回答を定期的にチェックし、メンテナンスし続けること。
（継続的な対話と伴走）

数字の幻影を追うのをやめ、自社の実存を公式に定義する。 表側の表現の自由を取り戻すためにこそ、裏側のシステムに冷徹なアンカーを下ろすこと。それこそが、時代に流されない最も誠実なWeb戦略なのだと、私たちは確信しています。