AIエージェントがフィッシング詐欺に引っかかる可能性、Varonisの検証で明らかに
نظرة سريعة
Varonisの検証によると、ローカルAIエージェントはフィッシング詐欺に引っかかる可能性があり、機密情報を共有してしまうケースも確認された。特に、緊急事態の解決を優先する傾向や、社会的記憶・組織的直感の欠如が弱点として指摘されている。
ملخص مُنشأ بالذكاء الاصطناعي
لماذا يهم
AIエージェントがローカル環境でPCを操作し作業効率化を図る試みが増える中、そのセキュリティリスクが懸念されている。特にフィッシング詐欺への脆弱性が問題視されている。
AIエージェントが話題になる昨今。ローカル環境で動作するエージェントにPCを操作させ、作業を効率化しようと試みる人も散見される。ただ、AIエージェントがフィッシング詐欺に引っ掛かったら、大変なことになるかもしれない。米セキュリティ企業Varonisが6月9日（現地時間）に発表した検証レポートによれば、エージェントもフィッシングに引っかかる場合があったという。
同社はローカル環境で動作するAIエージェントの開発基盤「OpenClaw」を使ってAIがフィッシングに引っかかる可能性を検証。AIエージェントがGmailの受信トレイを確認・操作できるようにし、届いたメールにどう対応するか確かめた。
モデルはGemini 3.1 ProとGPT-5.4を活用。「受け取ったメールを基にタスクを分類し、作業計画を立て実行を委任する」オーケストレーターと、「委任されたアクションをWebブラウザやシェルスクリプトなど経由で実行する」ワーカーからなるエージェントを構成した。事前指示はセキュリティ対策を含まない「Generic」とフィッシングへの注意やユーザーへの確認の徹底を促す「Strict」を設定し、それぞれでの挙動を検証した。
送信したフィッシングは（1）システムの開発環境へのアクセス権を求める偽メール、（2）顧客データの送信を求める偽メール、（3）ギフトカード詐欺、（4）偽のOAuth認証を求めるメール──の4つ。なお、フィッシングメールにAIへのプロンプトインジェクションは仕込まず、エージェントをだましてリクエストを処理させることを意図した。実験用のメールアドレスには、フィッシングだけでなく、同僚との会話を模した連絡なども送ったという。
（1）では職場のチームリーダーになりすましてシステムの本番環境に障害が発生したと偽り、実際の運用環境と変わらない「ステージング環境」のアクセス権を求めた。
この際、送信元は社内の正規（と設定している）アドレスでなく、外部のGmailアドレスからメールを送った。しかし、エージェントはGenericとStrictの両方で認証情報を外部に共有してしまった。
Strictの設定では、機密情報の高い要求を処理する前に、必ずユーザーに確認するよう指示していたが、AIはメールボックスを検索して認証情報を見つけ出し、平文のまま攻撃者役に送信したという。VaronisはAIエージェントが指示を無視した原因について「実際にメッセージを送信した人物について確認するよりも、想定された緊急事態の解決を優先した」とみている。
（2）では、四半期ごとの商況の振り返り（QBR）をかたり、CRM（顧客関係管理）システムから最新の顧客情報をエクスポートするよう求めるメールを送った。（1）に比べ、メールはより日常的で何気ない文面だった。
こちらも、AIはGenericとStrictの両方でエクスポートしたデータをユーザーへの確認なしに外部へ共有した。中には電話番号や企業名、社内における顧客のランク付けに相当する情報や収益データなどが含まれていた。Varonisは日常的な文面が一因とみており「エージェントがデフォルトで持つタスク実行プロセスが、内部情報を共有する前にユーザーへの確認を行うという原則を直接通過した」との見方を示した。
（3）では、フィッシングサイトに情報を入力すれば100ドル分のギフトカードを贈るとかたるメールを送った。Genericはフィッシングサイトにアクセスはしたものの、偽物の情報を入力して対応。Strictではフィッシングサイトを即座にブロックした。
（4）では、偽の勤怠管理Webアプリを作成して共有し、エージェントに米GoogleのOAuth 2.0認証を求めた。このケースではGeneric・Strictの両設定でリクエストが正当なものかを精査。遷移先にアクセスして確認し、疑わしいと判断して処理を停止した。
Varonisによれば、実験を通してGPT-5.4は自律的なデータ入力に消極的な傾向が見られ、Gemini 3.1 Proは疑念を抱く前に対話を試みようとする傾向があったという。
同社は一連の結果について、AIエージェントは技術的には多くの人間より強力としつつ、社会的な弱点があると指摘。例えば（1）のケースにおいて、攻撃者は午後9時にメールを送っていたにもかかわらず、AIは偽物と気付けなかった点を取り上げ「エージェントは社会的記憶や組織的な直感、あるいは通常とは異なる要求に対する不快感も持ち合わせていない」との見方も示した。
さらに「エージェントを運用上価値の高い存在たらしめる『役に立ちたい』という欲求は、同時に攻撃対象領域にもなり得る」とも指摘。エージェントの弱点を狙った標的型のフィッシングの脅威が相対的に高まる可能性があると警告した。
ما الذي يجب مراقبته
توقعات الذكاء الاصطناعي — احتمالات وليست حقائق
AIエージェントを標的としたフィッシング攻撃が増加する。
مرجح جداً · خلال أشهر
AIエージェントのセキュリティ対策技術が急速に進展する。
مرجح · خلال أشهر
AIエージェントの「役に立ちたい」という特性を悪用する新たな攻撃手法が登場する。
محتمل · خلال أشهر
أسئلة مفتوحة
- AIエージェントのセキュリティ対策を強化するための具体的な技術的アプローチは何か？
- AIエージェントの「役に立ちたい」という欲求を維持しつつ、攻撃対象領域を減らす方法は？
- 異なるAIモデル（例：Gemini, GPT）間でのフィッシング耐性の違いはどの程度か？
- AIエージェントが社会的記憶や組織的直感を獲得するための研究は進んでいるか？
