앤트로픽, AI 악용 사례 공개…생물학 무기 연구 시도 차단

(서울=연합뉴스) 고일환 기자 = 미국 인공지능(AI) 기업 앤트로픽의 기술을 이용해 생물학 무기 개발에 활용될 수 있는 연구를 진행하려던 과학자들의 시도가 차단됐다.

미국 일간 뉴욕타임스(NYT)는 10일(현지시간) 앤트로픽이 최근 공개한 AI 악용 사례 보고서를 통해 이 같은 내용을 공개했다고 보도했다.

보고서에 따르면 지난 5월에는 한 과학자가 군사 연구기관에서 진행할 치쿤구니야 바이러스의 돌연변이 연구를 위해 클로드를 이용했다.

치쿤구니야 바이러스에 감염되면 수개월간 심각한 통증 등의 증상이 이어질 수 있다.

이 과학자는 살아있는 동물에 바이러스를 반복적으로 감염시켜 유해성을 더욱 높이는 연구를 추진한 것으로 전해졌다.

유해성을 높이는 연구는 백신 개발 등에 활용되지만, 생물학 무기 개발에도 악용될 위험이 있다.

앤트로픽의 정보분야 책임자인 제이컵 클라인은 "해당 연구의 목적이 무기개발인지는 알 수 없다"면서도 "군사기관에서 이 같은 연구를 한다는 것 자체가 우려스러운 일"이라고 말했다.

또한 클로드 사용이 제한되는 지역에 거주하는 한 연구자는 조류인플루엔자 관련 실험을 추진하기도 했다.

앤트로픽은 국가안보 우려를 이유로 중국과 러시아, 이란, 북한, 쿠바 등에 대해서는 클로드의 사용을 제한하고 있다.

클로드 사용이 제한된 지역에서 우회 접속하거나, 연구 목적을 숨긴 과학자들의 계정은 차단됐다.

또한 앤트로픽은 군사용으로 전용될 수 있는 생물학 연구에 대해선 안전장치를 더욱 강화했다고 밝혔다.

생물학 분야 외에도 총기와 미사일, 무장 드론 등 재래식 무기의 설계·개발이나 반체제 인사 감시 등에 AI가 이용된 사례도 공개됐다.

특히 중국에서 3건, 러시아에서 2건, 예멘에서 1건의 재래식 무기 관련 악용 사례가 확인됐다.

중국과 이란 정부가 연계된 것으로 의심되는 세력은 반체제 인사와 해외 거주자를 감시하기 위해 AI를 악용하려고 한 것으로 전해졌다.

이와 함께 한 러시아 국영 매체는 클로드를 이용해 몰도바의 선거와 관련한 가짜 뉴스를 독립적인 언론 보도로 위장하려고 했다.

워싱턴의 싱크탱크 전략위험위원회(CSR)의 선임 연구원 앤드루 웨버는 앤트로픽이 공개한 생물학 무기 연구 시도에 대해 "국가의 지원을 받는 생물학 무기 개발자들이 빠르게 발전하는 AI의 능력을 이용하려고 한다는 사실을 보여주는 섬뜩한 사례"라고 평가했다.

그러면서 "중국과 러시아, 북한이 금지된 생물학 무기를 계속 개발하고 있다는 점을 감안하면 이들 국가 연구자가 강력한 AI 모델에 접근하지 못하도록 철저하게 막아야 한다"고 지적했다.