AI時代のサイバーセキュリティ：人材育成とAIエージェント制御が鍵、専門家が警鐘

シャール氏がステップの最初に挙げたのは、技術への投資ではなく「People First」、すなわち人の意識向上と教育だ。同氏が提示した3つのステップは次の通りだ。

「教育し、シンプルなツールを与えることで、従業員は『セキュリティチームの強力なセンサー』へと変わる。危機が発生した瞬間に、最前線にいる人間がどう立ち止まり、行動できるかが、組織全体の生死を分ける」（シャール氏）

国内セッションの論点は「人」とAI統制

国内の実務家によるセッションでも、論点は「人」と「AIの統制」に集まった。

ソフトバンクグループでIT商材の流通を手掛けるSB C&Sの山名広朗氏（ICT事業本部 ネットワーク＆セキュリティ推進本部 本部長）は、AIセキュリティの議論の中心が「チャットツールの安全な利用」から「自律的に動くAIエージェントをどう守るか」へ移ったと解説した。

対策として、どこでどのようなAIエージェントが使われているかの可視化、何をしようとしているかという意図レベルの制御、実行されたアクションを監査可能にする観測と評価という3つのアプローチを挙げた。その上で「防衛側に残された猶予期間はあと3カ月から半年しかない。この期間内に守る側もAIを徹底活用したマシンスピードの防御体制を構築しなければ、人手による防御では立ち行かなくなる」と警鐘を鳴らした。

グローバル飲料大手のサイバーセキュリティ部で部長を務める播越美沙子氏は、AIが攻撃にもたらした本質的な変化を「人間が立ち止まって考えるための『間』を奪う能力」だと分析した。攻撃者は「10分以内」といった時間制限で焦らせ、確認しない理由をあらかじめ用意して仕掛けてくる。

「人は弱いから騙されるのではない。多忙や疲労、プレッシャーなど、置かれた状況によって同じ人でも異なる判断をしてしまう」と述べ、緊迫した瞬間に一旦立ち止まる力を鍛える訓練と、失敗を安心して報告できる心理的安全性の確保を提唱した。

メルカリのジェイソン・フェルナンデス氏（執行役員 VP of Security, Privacy & AI Governance）は、開発プロセスで生成されるコードの約7割をAIが占めるという同社の現状を紹介した。セキュリティ部門を「ビジネスを止めるブレーキ」ではなく「F1マシンを安全に極限のスピードで走らせる開発パートナー」と定義し、ガイドライン整備から技術的統制、深刻なインシデント発生時にAIエージェントの処理を即座に全面停止する「キルスイッチ」の整備までを体系化した「F1モデル」を解説した。

ITデバイスとSaaSの統合管理サービスを手掛けるジョーシスの西竹陽介氏（執行役員 Head of Japan）は、APIトークンやAIエージェントなど人にひも付かない「非人間ID（ノンヒューマン・アイデンティティ）」が急増し、退職後も残り続けたトークンが攻撃の侵入口になっていると指摘した。AironWorksの今野氏は、消費者向けサービスから漏洩した社用メールアドレスが自社への標的型攻撃の起点になるとして、大規模漏洩が報道された際の社内告知、ミスを叱責しない文化、漏洩を前提としたID監視と訓練の3つを挙げた。

日本シーサート協議会（NCA）でメール訓練サブワーキンググループの主査を務める加藤孝浩氏（TOPPAN）は、メール訓練で「開封率0％」を目標に置く運用を「重大な間違いだ」と批判した。高度なソーシャルエンジニアリングを100％見破ることはプロでも不可能であり、評価すべきは怪しいと気付いた従業員がどれだけ早く声を上げたかを示す「通報率」だという。「クリックした人を叱責する運用をしていると、従業員は本物のフィッシングを踏んだ際に隠蔽し、報告が大幅に遅れる。これこそが最悪の侵入事故を引き起こす本当の理由だ」（加藤氏）

寺田氏は開会時、「この第1回の開催を契機に、日本のセキュリティコミュニティが一段も二段もレベルアップする機会にしたい」と参加者に呼び掛けた。