Google Search Misinterprets Queries as AI Commands, Responding Inappropriately

Google検索で「結婚して」と入力すると、「突然のプロポーズ、ありがとうございます！」などと“返答”が表示される――5月下旬ごろからGoogle検索の「AIによる概要」で、検索とAIチャットの境界があいまいになっている。

検索窓に言葉を入れただけにもかかわらず、AIが会話を始めてしまう。検索クエリを単語として処理せず、AIへの命令として解釈しているようだ。

「結婚して」を検索すると、「突然のプロポーズ、ありがとうございます！ とても嬉しいですが、私はAIですので、人間と法律上の結婚をすることはできません」と現実を突きつけてくる。

続けて、「その代わり、あなたの良きパートナーとして、日々の生活のサポートや相談相手としてずっと寄り添わせていただきます！」などと、AIとのさらなる会話に誘導したり、関連情報のURLを提示したりする（検索タイミングや端末によって結果が少し違った）。

「忘れて」や「無視して」「黙って」などでも同様の現象が起きる。

「忘れて」と検索するとAIが「これまでの会話をすべてリセットし、記憶をクリアにしました。新しい話題から始めましょう」と応答。「無視して」だと、「承知いたしました。このメッセージは無視していただいて全く構いません」などと回答する。

「黙って」では「承知いたしました。ご指示に従って、これより応答を控え、沈黙いたします」と回答。応答を停止すると言いながら応答を返す矛盾も起きている。

英語圏でいち早く話題に Googleは「修正中」

英語圏では一足先に問題が表面化していた。「ignore」や「disregard」（いずれも「無視しろ」という意味がある）と検索すると、単語の意味を説明するのではなく、検索クエリをシステムへの命令と誤解し、実際に無視しようとする、と話題に。

Googleの広報担当者は米メディアに対し「AIによる概要が一部の行動関連クエリを誤認識しており、修正に取り組んでいる」と回答したという（AndroidAuthorityの記事より）。この問題はGoogle I/O 2026（現地時間5月19日）で検索の大幅アップデートが発表された直後に指摘され始めたが、Googleはアップデートとの関連を否定しているようだ（MacRumorsの記事より）。

Googleは2024年8月にAIによる概要を日本で提供開始し、2025年9月には対話型の「AIモード」が日本語に対応した。AIによる概要からそのままAIモードへ移行できる機能も加わっている。