영란은행, AI 모델 사이버 보안 위협 대응 위한 맞춤형 규제 필요성 시사

영국 중앙은행인 영란은행(BOE)은 인공지능(AI) 모델의 사이버 보안 위협에 대응해 맞춤형 AI 규제의 필요성을 시사했다고 로이터 통신이 지난달 30일(현지시간) 보도했다.

기존 규제만으로도 AI 위협을 완화하는데 충분하다고 주장해온 세라 브리든 영란은행 금융안정 담당 부총재가 이날 포르투갈 신트라에서 열린 유럽중앙은행(ECB) 콘퍼런스에서 결제와 금융거래 AI 에이전트의 급격한 발전으로 인해 보다 정교한 규제 체계가 필요함을 드러냈다고 말했다.

그는 "우리의 기존 규제 체계는 AI 에이전트를 염두에 두고 구축된 것이 아니다"며 "AI 에이전트의 행동에 적절한 개입이 필요할 것"이라고 말했다.

AI 에이전트는 스스로 결정을 내리고 자율적으로 작동할 수 있는 최고급 기술을 가리킨다.

브리던 부총재는 은행들이 핵심 시스템에 대해 "강화된 복구" 조치가 필요한지도 검토하고 있다고 밝혔다. 이는 시스템 장애 발생 시 한 은행이 다른 은행의 기본 기능을 일시 인수해 운영할 수 있도록 하는 조치다.

그는 검토 중인 다른 조치들로 "결함 있는 AI 모델이 시장 붕괴를 초래할 경우 시장 전반의 거래를 제한하거나 중단할 수 있는" 새로운 안전장치(guardrails), 서킷 브레이커(circuit breakers), 킬 스위치(kill switches)가 있다고 소개했다.

케임브리지 대안금융센터의 조사에 따르면 금융회사의 52%가 이미 AI 에이전트를 사용하고 있다.

상거래에서 에이전트는 주로 제품을 추천하는 데 사용되며, 거래에선 기업들이 위험도가 낮은 운영 업무에 자율형 AI를 활용하고 있지만 이러한 양상이 매우 빠르게 변할 수 있다고 브리던 부총재는 지적했다.

그는 "AI 에이전트들이 동일한 프롬프트나 트리거에 유사하게 반응한다면 스트레스 상황에서 시장의 변동성을 증폭시킬 수 있다. 특히 이들의 목표가 원래의 설정이나 공공 정책 목표에서 벗어날 경우 위험은 더 커진다"고 경고했다.

금융회사에 심각한 사이버 보안 문제를 야기할 수 있다고 알려진 앤트로픽의 미토스 모델이 출시된 이후 규제 당국과 글로벌 표준 제정 기구들은 금융 부문 전반에 걸친 AI 도입의 위험성에 대해 거듭 경고해 왔다.

금융안정위원회(FSB)도 6월 초 인간의 감독에 독특한 난제를 던지는 AI 에이전트의 위험을 방지하기 위해 더 강력한 안전장치를 마련하라고 촉구한 바 있다.