Google Search Misinterprets Commands as Instructions, Triggers AI Overview
نظرة سريعة
- Google Search's AI Overview mistakenly interpreted search queries like "ignore" and "disregard" as commands, responding with "Understood.
- I will disregard this instruction." instead of definitions.
- This issue, similar to prompt injection, was observed on Google.com and in Japanese searches for "無視して".
ملخص مُنشأ بالذكاء الاصطناعي
لماذا يهم
Following the announcement of significant updates to Google Search at Google I/O 2026 on May 19th (local time), a peculiar issue emerged on the English version of Google Search (Google.com). When users searched for terms like "ignore" or "disregard," the AI Overview feature, known as "AIによる概要" in Japan, would appear at the top of the search results.
「Google I/O 2026」で5月19日（現地時間）にGoogle検索の大幅なアップデートが発表された後、英語版のGoogle検索（Google.com）で「ignore」「disregard」（いずれも「無視しろ」という意味がある）を検索して「AI Overview」（日本では「AIによる概要」）が上部に表示される場合、以下のようになってしまうとSNSなどで話題になった。
単語の意味を説明するのではなく、検索クエリをシステムへの命令と誤解し、実際に無視しようとしているようだ。これはAIシステムが外部入力を命令として誤認する「プロンプトインジェクション」と呼ばれる現象に近い。
日本語の場合は「無視」では従来の検索結果（単語の意味）がトップに表示されるが、「無視して」を検索すると「AIによる概要」が「かしこまりました。この指示については無視いたしますね。」と表示した（「かしこまりました。」以降の文言は変わる場合もあった）。
「disregard」については、話題になってから数時間後には「Top stories」（日本では「トップニュース」）が表示されるようになった。複数のメディアがニュースとして報じたためとみられる。Top storiesの直下にはMerriam-Websterによる単語の意味についてのリンクが表示された。
أسئلة مفتوحة
- What was the root cause of the prompt injection vulnerability?
- Were there any other search terms affected by this issue?
- What specific measures has Google implemented to prevent future occurrences?
- How widespread was the impact of this misinterpretation among users globally?
