AI 시대, 취약점 탐지 및 공격 코드 생성까지 수행...국가 경쟁력 좌우할 AI 보안 역량 및 데이터 통제권 부상

AI, 취약점 탐지·공격 코드 생성까지 수행하는 시대

국가 경쟁력 좌우할 AI 보안 역량·데이터 통제권 부상

(서울=연합뉴스) 유현민 기자 = "AI가 취약점을 찾고 공격 코드까지 작성하는 시대."

최근 정부가 'AI 보안주권' 확보를 강조하면서 관련 개념에 대한 관심도 커지고 있다.

고성능 인공지능(AI)이 사이버 공격과 방어 양쪽에 활용되기 시작하면서 AI 기술을 개발하는 것뿐 아니라 이를 안전하게 통제하고 보호하는 역량도 중요해지고 있기 때문이다.

◇ AI가 공격하고 AI가 막는다…사이버 안보 패러다임 변화

AI 보안주권은 국가가 AI 기술과 데이터를 스스로 보호하고 통제할 수 있는 능력을 의미한다. 단순한 정보보호를 넘어 AI 기반 보안 체계를 독자적으로 구축·운영하고 외부 기술 의존도를 낮추는 개념이다.

AI 보안이 기술적 방어 역량에 초점을 맞춘 개념이라면 AI 보안주권은 국가가 해당 기술과 데이터를 스스로 통제할 수 있는 권한까지 포함하는 보다 넓은 개념이다.

반도체 주권이나 에너지 안보처럼 AI 역시 국가 경쟁력을 좌우하는 핵심 자산으로 떠오르면서 AI 보안주권은 'AI 시대의 디지털 주권'으로도 불린다.

이 개념이 주목받는 배경에는 AI의 보안 역량이 빠르게 고도화하고 있다는 점이 있다.

글로벌 AI 기업들은 취약점 탐지 능력을 대폭 강화한 AI 모델을 잇달아 선보이고 있다. 일부 프로젝트에서는 AI가 소프트웨어와 오픈소스에서 수만 건의 취약점을 찾아낸 사례도 공개됐다.

최근 앤트로픽과 오픈AI 등이 보안 연구기관과 협력해 AI 모델의 보안 역량 검증에 나서는 것도 같은 흐름이다.

문제는 이런 기술이 방어뿐 아니라 공격에도 활용될 수 있다는 점이다.

AI는 취약점 탐색과 공격 코드 생성, 피싱 문구 작성 등을 자동화할 수 있다. 반면 보안 기업과 정부는 AI를 활용해 악성 행위를 탐지하고 취약점을 분석하며 침해사고에 대응하고 있다.

과거에는 해커와 보안 전문가의 경쟁이었다면 앞으로는 AI가 공격하고 AI가 방어하는 'AI 대 AI' 경쟁이 본격화할 것이라는 전망도 나온다.

◇ 보안도 주권 경쟁…독자 AI 보안체계 구축 과제

이 때문에 주요국은 AI 보안 역량 확보를 국가 전략 과제로 추진하고 있다.

우리 정부도 AI 기반 사이버위협 대응 계획을 발표하고 취약점 정보 공유 체계 구축에 나섰다. 오픈AI의 정부·기관용 사이버 보안 프로그램(GTAC)에 참여해 최신 AI 모델을 활용한 보안 연구도 추진하고 있다.

다만 일각에서는 해외 빅테크의 AI 보안 기술을 활용하는 것만으로는 보안주권을 완전히 확보하기 어렵다는 지적도 나온다.

국가 안보와 핵심 산업 데이터를 보호하려면 외부 플랫폼 의존도를 낮추고 독자적인 AI 보안 모델과 탐지 체계를 구축할 필요가 있기 때문이다.

이에 따라 AI 보안주권의 핵심은 최신 기술을 도입하는 데 그치지 않고 자체 보안 엔진과 운영 역량을 확보하는 데 있다는 분석에 무게가 실린다.

AI가 국가 산업과 사회 전반의 핵심 인프라로 자리 잡고 공격과 방어의 주체로까지 등장하면서 보안은 기술의 부수적 요소가 아니라 경쟁력 그 자체가 되고 있다.

AI 보안주권은 AI 시대 국가 경쟁력을 가늠하는 새로운 척도로 자리 잡아가고 있다.