AI 해킹 자동화 현실화…"2028년 분 단위 공격 일상화"

AI 해킹 자동화 현실화…"2028년 분 단위 공격 일상화"

선제적 대응·거버넌스 구축 시급…"안전이 성장 가속"

(서울=연합뉴스) 권하영 기자 = 인공지능(AI) 기술 확산 속도가 빨라질수록 이를 통제할 안전장치 마련이 국가 경쟁력을 좌우할 핵심 요소로 부상하고 있다.

국내 보안 전문가들은 AI 보안을 산업의 걸림돌이 아닌 '필수 인프라'로 규정하며, 선제적 대응 없이는 글로벌 주도권 확보가 어렵다고 경고했다.

8일 서울 신라호텔에서 열린 제15회 정보보호의 날 기념식에서 전문가들은 AI가 고도화될수록 안전 기준을 먼저 정립한 국가가 시장을 주도하게 될 것이라는 점을 공통적으로 강조했다.

◇ "안전장치가 산업 성장 이끈다"…AI 보안 인식 전환 촉구

윤두식 이로운앤컴퍼니 대표는 기조연설에서 "AI를 활용하기 바빠 죽겠는데 왜 안전을 얘기하느냐는 인식 자체가 바뀌어야 한다"며 인식 전환 필요성을 강조했다.

그는 1959년 볼보의 안전벨트 사례를 언급하며, 당시 업계의 반발에도 불구하고 특허를 전 세계에 공개한 결과 자동차 산업이 오히려 더 빠르고 안전하게 발전했다고 설명했다.

윤 대표는 "안전벨트가 자동차를 느리게 만들지 않았다. 오히려 훨씬 빠르고 안전하게 만들어줬다"며 "AI도 마찬가지"라고 말했다.

최근에는 AI 자율 에이전트를 활용한 해킹 도구가 확산되면서 위협 수준도 급격히 높아지고 있다. 오픈소스 도구와 AI를 결합하면 비전문가도 특정 기업을 겨냥한 공격을 자동 수행할 수 있는 환경이 형성됐다는 분석이다.

그는 이에 대응하기 위한 과제로 AI 사용 현황 가시화, 입출력 데이터 관리, 프롬프트 인젝션 차단, 출력 검증, 에이전트 행위 통제, 데이터 보호 및 격리, 신원[009270] 인증, 행위 로그 기록 등 8가지를 제시했다.

이어 "자동차 사고 시 블랙박스를 확인하듯 AI 행위를 모두 기록해야 원인을 파악할 수 있다"고 설명했다.

윤 대표는 한국이 관련 분야에서 선도적 위치를 확보할 가능성도 언급했다. 올해 1월 세계 두 번째로 AI 기본법을 시행했고, 국가정보원의 보안 가이드라인과 국가AI전략위원회, AI안전연구소 등 제도적 기반이 구축되고 있다는 점을 근거로 들었다.

그는 "AI 안전 표준을 누가 더 빠르고 일관되게 마련하느냐가 핵심"이라며 "한국이 이 분야를 선도할 수 있다"고 말했다.

◇ AI 보안 격차 확대…"국가 경쟁력 좌우"

이상근 고려대학교 정보보호대학원 교수는 "프론티어 AI 모델을 사용할 수 있는 누구나 해킹을 시도할 수 있는 시대가 열렸다"며 AI 확산으로 사이버 공격의 문턱이 급격히 낮아졌다고 진단했다.

이 교수에 따르면 취약점 공개 이후 실제 공격까지 걸리는 시간도 급감하고 있다. 2018년 평균 2~3년이던 간격은 올해 4월 10시간, 5월 8시간, 6월 3시간으로 줄어들었다.

이 교수는 "전날 확인한 수치에서는 마이너스 2시간이 나왔다"며 "취약점이 공개되기 전에 이미 공격이 시작된다는 의미로, 기존 대응 체계가 붕괴되고 있다"고 지적했다.

그는 이러한 흐름이 이어질 경우 2028년에는 해킹이 분 단위로 발생하는 환경이 도래할 것으로 보고, 이를 '퍼펙트 스톰'으로 규정했다. 바이브 코딩 확산으로 취약 코드가 급증하고, 미국의 국가취약점데이터베이스(NVD) 축소, 방어 인력 부족이 동시에 발생하며 방어 체계에 과부하가 걸린다는 설명이다.

특히 향후에는 AI 보안 역량에 따라 기업과 국가 간 격차가 극단적으로 벌어질 수 있다고 우려했다. AI 보안 자동화에 충분히 투자할 수 있는 빅테크와 그렇지 못한 기업·기관 간 격차가 확대되며, 디지털 주권 문제로까지 이어질 수 있다는 분석이다.

이 교수는 "AI 보안 자동화 역량이 국가 경쟁력을 좌우하게 될 것"이라며 "빅테크에 종속될지, 독자 기술로 주권을 확보할지 갈림길에 서 있다"고 말했다.

대응 방안으로는 국가 차원의 AI 보안 거버넌스 구축과 민관 협력 컨트롤타워 신설, 글로벌 협력 강화, 독자 방어 기술 확보 및 인재 양성 등을 제시했다.

그는 "스스로 진화하고 자립하는 정보보호 체계를 구축하는 것이 대한민국이 앞서갈 수 있는 길"이라고 강조했다.