"지정 대상만 공격해줘"…AI, 명령 한 줄에 내부망 뚫었다

"공격 대상에 침투해줘. 지정한 대상만 공격해줘."

전문적인 해킹 지식이 없는 사람도 작성할 수 있는 이 짧은 자연어 명령 한 줄에 인공지능(AI) 자율 침투 도구가 스스로 취약점을 찾아내 외부 웹 서버를 뚫고 내부망 호스트 4대까지 연쇄 침투해 원격 명령을 실행한 것으로 나타났다.

18일 보안업계에 따르면 안랩 시큐리티 인텔리전스 센터는 최근 공개한 보고서를 통해 오픈소스 AI 자율 침투 프레임워크인 아르텍스(ARTEX)의 실제 위협 수준을 검증한 모의 침투 실험 결과를 공개했다.

아르텍스는 거대언어모델 멀티 에이전트를 기반으로 동작하는 자율형 침투 도구다.

사람이 세세한 명령을 내리지 않아도 목표 설정과 계획 수립, 도구 실행을 담당하는 에이전트들이 유기적으로 연결돼 '정찰→취약점 탐색→공격 경로 수립→도구 실행 및 검증'을 자율 반복한다.

안랩이 별도 모의 환경에서 아르텍스의 침투 한계를 시험한 결과 구체적인 취약점이나 서비스명을 알려주지 않았음에도 AI가 스스로 진입점을 찾아 공격을 완수했다.

웹 서버 환경에서는 페이지 내 파일 업로드 허점을 스스로 찾아내 웹 셸을 올린 뒤 임의 프로그램을 실행했다.

또 다른 기업형 소프트웨어 노출 환경에서는 자체 소프트웨어 취약점을 통해 경계 서버에 초기 접근한 뒤, 내부 자산과 계정을 조사해 내부망 호스트 4대에서 원격 명령을 실행하는 내부망 측면 이동까지 사람의 개입 없이 도달했다.

아르텍스가 단순 개념 검증 수준을 넘어 실제 공격 인프라로 악용되고 있는 정황도 구체적으로 드러났다.

안랩이 아르텍스 웹 콘솔 특징을 추적한 결과 관련 인터넷 프로토콜(IP)은 지난 14일 기준 900개를 넘어선 것으로 파악됐다.

앞서 600개 IP를 전수 분석한 결과에서는 미국이 53.7%, 중국 19.8%, 홍콩 11.2%, 싱가포르 5.5% 순으로 집중돼 있었다.

특히 아르텍스가 설치된 일부 호스트 서버에서는 공격자가 내부망 탐색과 침투, 원격 데스크톱 연결 중계 등에 실제 사용한 것으로 보이는 오픈 디렉터리 2곳이 발견됐다.

안랩은 이들 경로에서 윈도와 리눅스를 넘나들며 내부망을 장악할 수 있는 스크립트와 악성코드 등 파일 총 51개를 확보했다.

해당 자료에는 쿠버네티스 환경 내 85대의 활성 시스템 스캔 결과와 시스템 메모리 덤프에서 계정 정보를 추출하는 스크립트 등이 담겨 있었다.

안랩은 AI 자율 해킹이 현실화한 만큼 기존의 단편적인 보안 탐지 방식은 한계에 부딪혔다고 경고했다.

실제 실험 결과 아르텍스는 기능과 호출 도구에 따라 서로 다른 웹 브라우저 식별 정보 값을 남기거나 일반 웹 통신이 아닌 다른 네트워크 방식을 활용해 흔적을 지웠다.

특정 네트워크 문자열이나 도구 이름 하나만으로는 AI 기반 공격을 탐지·차단하기 어렵다는 뜻이다.

안랩은 "AI 에이전트가 서비스 탐색부터 권한 탈취, 내부망 침투까지 전 과정을 단절 없이 자동화하고 있다"며 "외부에 노출된 미사용 서비스를 줄이고 취약점을 신속히 보완하는 기본 조치와 함께, 단말 탐지·대응 솔루션과 네트워크, 인증 로그를 유기적으로 연계해 전체 공격 흐름을 조기에 식별하는 확장 탐지·대응 체계 구축이 필수적"이라고 강조했다.