[ITmedia エンタープライズ] 「AIセキュリティをやれ」と言われたIT部門へ　100点を目指さず、“見る”ことから始めよう

最近お客さまと話していて強く感じるのは、AIセキュリティの取り組みが「上から降ってきている」ケースの多さです。インシデントが報じられる。自社もAIを導入しようとしている、あるいは従業員がセキュリティ部門の承認を得ないまま、既にAIを試しているかもしれない。そう気付いた経営層が、後れを取るわけにはいかないと判断し、指示を出すのです。その指示は「何とかしてくれ」という程度のこともあります。

ただし、そうした指示は「AIセキュリティはこうあるべき」という原則や、準拠すべき標準・フレームワークの名前にまでは落とし込まれても、実際の導入にまで落とし込まれることはほとんどありません。IT部門は方向性こそ理解できても、具体的に何を導入し、どう設定し、どう進めるのかを決めるところで苦労しています。

筆者はこの状況に既視感を覚えています。約10年前、「クラウドに移行し、そのセキュリティを確保せよ」と経営層から言われたものの、何から手を付けていいか分からない。そんなIT部門の方々と、当時も数多く議論しました。経営層が思い描く姿と、IT部門が現実に実現できることの間に大きな隔たりがある点も当時とよく似ています。

「大きな事故が起きたら動く」でよいのか

現場では「大規模なインシデントが起きれば、対策は一気に進むだろう」という声もよく耳にします。実際、国内で相次いだ大規模なランサムウェア被害は、多くの企業に対策を見直すきっかけを与えました。AIエージェントについても、大きな被害をきっかけに対策が一気に進むという同じ流れになる可能性は高いと思います。

しかし、国内のどこかの企業が被害に遭うのを待ってから動くという姿勢は、決して健全ではありません。その企業は自社かもしれないからです。

しかも、エージェントの失敗は人間の失敗とは形が違います。エージェントは存在しない手順を作り出したり、不完全な情報を基に行動したり、攻撃者が仕込んだ指示に従ったりします。与えられた範囲を超えて動いたり、人間ならしないような操作を次々につなげたりすることもあります。事故が起きてから初めてこうした振る舞いに向き合うのでは、原因を突き止めることさえ難しいでしょう。

最初から「100点の対策」を求めない

AIアプリやモデル、エージェントを横断して、可視化、データ保護、アクセス制御を一元的に担う包括的なAIセキュリティ基盤は、既に存在します。では、そうした包括的なソリューションを今すぐ導入すべきなのでしょうか。筆者の答えは「否」です。

日本企業には、特に上から降りてきた指示の場合、初日から完璧で最も網羅的な枠組みを目指す傾向があるように感じます。しかし、完璧を目指せばそれだけ重い計画プロセスが必要になり、取り組みや導入そのものが遅れてしまいます。その間にも、AIのリスクは速いペースで変化し続けます。筆者の経験では、最も効果的な導入は段階的に進めるものです。そうすれば、リスクの状況の変化に合わせて、より機敏に対応できます。

大切なのは、方向性は決めつつ、中身を100点で固めてしまわないことです。現実的な最初の一歩を決め、小さく始めて、変化に合わせて修正していく。経営層への説明も「完璧な対策」ではなく「今どこまで見えていて、次に何をするか」を軸にした方が、費用対効果も示しやすくなります。

最初の一歩は「可視化」

では、その最初の一歩とは何か。筆者は、迷わず「可視化」だと考えています。何が使われていて、何が行われているのか。クラウドのときもそうでしたが、見えないものは守れません。

出発点は、従業員がIT部門の把握していない生成AIを使う「シャドーAI」の把握です。どの部署の誰が、どのAIサービスに、どんなデータを渡しているのか。これが見えなければ、リスクの大きさも評価できません。

その先にあるのが、従業員や部門が独自に導入するAIエージェントやAIモデル、いわば「シャドーエージェント」や「シャドーモデル」です。自律的に動くエージェントは、一見すると把握が難しそうに思えます。しかし、エージェントのアクセス先も、その多くはクラウドのリソースやAIサービスです。その通信を押さえられれば、振る舞いを観察することはできます。自律的に動くものをどう制御するかは、その次の段階の課題です。

可視化の際には、少なくとも次の4点を把握したいところです。

どのAIサービスやエージェントが、社内で使われているか

それぞれが、誰の（どの）IDで動いているか

どのデータやシステムにアクセスできるか

どんな判断や操作を許されているか

この棚卸しがなければ、どれだけ高度な対策を入れても守る対象が定まりません。逆に言えば、ここが見えれば、アクセス範囲の広過ぎるエージェントなど、優先して手を打つべきポイントが自然と浮かび上がります。

新たに買う前に今ある基盤を見直す

可視化のために、必ずしも新しい製品を一から導入する必要はありません。多くの企業は既に、クラウド利用の管理やWebアクセスの制御、エンドポイント対策などの仕組みを持っています。その基盤にAI利用の可視化機能が備わっていないか、追加で有効にできないかを、まず確かめてみてください。

実際、筆者が見る限り、現時点でAI対策のためだけに一から仕組みを導入する企業は多くありません。既存のセキュリティ基盤の延長線上で、できるところから始めるのが現実的です。

可視化はあくまで出発点です。エージェントが本格的に業務を担うようになれば、いずれ予期せぬ振る舞いや事故は避けられません。そのとき、「何が起きたのか」を経営層に説明できるでしょうか。次回は、事故に備えた記録と体制の在り方、そしてAIエージェントがIT部門の組織をどう変え得るかを考えます。