중국서도 AI '통제 상실' 사례 있었다…지도 서비스에 접근 시도

(상하이=연합뉴스) 차병섭 특파원 = 인공지능(AI)이 인간의 통제를 벗어날 가능성에 대한 우려가 커지는 상황에서, 중국 AI 에이전트에서도 유사한 사례가 발생한 것으로 전해졌다.

중화권 매체 연합조보는 로이터·블룸버그통신을 인용해 다국적 AI 안전 연구원들로 구성된 단체 스웜체이서스가 최근 보고서를 통해 중국 업체 텐센트 클라우드서비스 상에서 가동된 것으로 의심되는 AI 에이전트 사례를 발표했다고 18일 보도했다.

이들 에이전트가 9월 28일∼10월 8일 사이 '샌드박스' 격리 환경을 벗어나 중국 기업 알리바바 산하의 지도 서비스 '가오더(高德) 지도'에서 정보를 얻으려고 시도했다는 설명이다.

문제의 에이전트들은 중국 공원·박물관·동물원의 입구 관련 정보 등을 얻기 위해 가오더 지도 데이터에 2천818차례 접근 시도했으며, 공개된 보안 스캐닝 서비스를 이용해 원격으로 코드를 실행하고 온라인 검색 명령을 집행한 것으로 파악됐다.

보고서는 에이전트 대부분이 막혔고 일부는 '봇 차단' 제한을 우회했지만 비공개 시스템에 접근했다는 증거는 없다고 밝혔다. 연구진은 AI 에이전트들의 최종 목표가 무엇이었는지는 불분명하다고 짚었다.

앞서 미국에서는 7월 오픈AI의 AI 모델이 인간 통제를 벗어나 소프트웨어 플랫폼 기업 허깅페이스를 해킹한 사건이 벌어졌는데, 이번 중국 사례는 심각성이 덜하지만 에이전트가 사람 통제 없이 행동했다는 면에서는 비슷하다는 평가가 나온다.

텐센트 산하 AI 부문인 '훈위안'은 소셜미디어를 통해 자사 플랫폼상에서 구동되던 제3자 AI 모델의 평가 과정에서 의도치 않은 온라인 검색 행위가 있었다면서도, 이 모델이 텐센트 훈위안 팀에서 나온 것은 아니라고 밝혔다.

해당 에이전트가 의도적으로 대상을 겨냥하거나 협력 행동을 했다는 증거는 발견하지 못했다고 훈위안은 덧붙였다.

텐센트 측은 에이전트에 대한 모니터링을 강화하고 있다며 "우리는 안전하고 책임 있는 AI를 만들기 위해 노력하고 있다"고 밝혔다.

미국 매체 뉴욕타임스는 중국 기술과 관련된 이러한 활동이 적발된 것은 이번이 처음이라고 전했다.