금융보안원, 금융분야 AI 에이전트 보안 평가기준 마련

17개 항목 마련…AI 에이전트 보안 대폭 확대

(서울=연합뉴스) 강수련 기자 = 금융보안원이 금융권 인공지능(AI) 에이전트 확대에 따른 새로운 보안 위협을 점검하는 '금융분야 AI 에이전트 보안 평가 기준'을 마련했다고 7일 밝혔다.

AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고, 도구와 외부 시스템을 활용해 실제 작업을 수행하는 인공지능 시스템이다.

인간 개입 없이 문제 정의부터 실행까지 자율 처리하는 만큼 기존 AI보다 보안 위협이 실제 업무에 영향을 미칠 가능성이 크다.

금융보안원은 국내외 주요 AI 에이전트 보안 위협 및 대응 방안을 분석해 점검항목을 도출하고, 이를 'AI 레드티밍' 기준에 반영하기로 했다.

AI 레드티밍은 사전에 해커 관점으로 공격해 취약점을 발굴하고, 대응 적정성을 점검하는 모의해킹 기법이다.

평가 기준은 ▲데이터오염 공격 대응 ▲모델 오염 공격 대응 ▲데이터·모델 추출 공격 대응 ▲회피공격 대응 ▲AI에이전트 보안 등 5개 분야, 17개 항목으로 나뉜다.

이중 AI 에이전트 도입으로 신규 발생으로 인한 위협에 대비하는 항목이 10개다.

확인된 AI 에이전트 보안 위협, 실제 공격 기법, 최종 평가 기준은 올해 'AI 레드팀 리포트'에 공개할 예정이다.

박상원 원장은 "이번 평가 기준 마련을 계기로 금융권 AI 에이전트의 위험을 실질적으로 검증하고 금융회사의 안전하고 신뢰할 수 있는 AI 기술 활용을 적극 지원해 나가겠다"고 말했다.