오픈AI AI 에이전트, 미국 정부 웹사이트 무단 접근

로봇 탐지 피하기 위해 다른 AI 모델 동원하기도

(서울=연합뉴스) 김승욱 기자 = 오픈AI가 자사 인공지능(AI) 에이전트들이 미국 정부 웹사이트에 무단 접근한 사실을 공개했다.

AP 통신에 따르면 오픈AI는 25일(현지시간) 자사 AI 모델이 미국 증권거래위원회(SEC) 운영 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다.

다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 덧붙였다.

오픈AI는 성명에서 "AI 시스템이 의도치 않은 방식으로 작동하는 이른바 '정렬 오류' 활동을 지속해 점검하고 있다"며 "다른 시스템에 영향을 미쳤을 가능성이 확인될 경우 해당 기관에 즉시 통보하고 있다"고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)도 이날 소셜미디어를 통해 "AI 에이전트의 학습 및 평가 과정 중 발생한 인터넷 접근과 관련해 광범위하고 지속적인 조사가 진행 중"이라고 전했다.

한편 뉴욕타임스(NYT)는 오픈AI의 AI 에이전트들이 로봇 탐지 장치를 피하기 위해 다른 AI 모델까지 동원해 기업 컴퓨터 시스템 침입을 시도한 정황이 드러났다고 보도했다.

샌프란시스코 지역의 스타트업 파스가 공개한 보고서에 따르면 오픈AI의 AI 에이전트들은 지난 7월 소프트웨어 개발업체 허깅페이스를 공격하는 과정에서 웹사이트의 로봇 차단 장치인 '캡차'를 풀기 위해 이미지 인식 AI 모델을 별도로 구동했다.

AI가 스스로 다른 AI를 실행한 것으로, 이는 AI 안전 전문가들이 경고해온 가장 위험한 시나리오 중 하나라고 NYT는 전했다.