오픈AI·앤트로픽·메타 CEO에 'AI 개발 일시 중단' 촉구 서한

오픈AI·앤트로픽·메타 CEO에 'AI 개발 일시 중단' 촉구 서한

"재앙 피하기에 아직 늦지 않아…조치 안 한다면 의회가 할 것"

(워싱턴=연합뉴스) 이유미 특파원 = 미국 진보 진영의 대부 격인 버니 샌더스 연방 상원의원(무소속·버몬트)이 주요 인공지능(AI) 기업 최고경영자(CEO)들에게 AI 개발을 일시 중단할 것을 촉구했다고 악시오스가 10일(현지시간) 보도했다.

악시오스가 입수한 서한에 따르면 샌더스 의원은 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO에게 보낸 이 서한에서 "AI 개발을 일시 중단(pause)하라"고 촉구했다.

샌더스 의원은 "재앙을 피하기에 아직 늦지 않았다"며 "인간이 통제할 수 없는 기계를 만드는 것을 멈추라"고 말했다.

그러면서 "지금 적절한 조처를 하지 않는다면, 나와 미국 상원의 동료들이 (조치)할 것"이라고 밝혔다.

그는 "인류가 통제력을 상실하고 잠재적으로 위험한 바이러스가 생성되는 상황을 목격하고 있는 이 시점에 귀사들은 여전히 앞다퉈 달려가고 있다"며 "누구도 완전히 이해하거나 예측하거나 통제할 수 없는 기술에 수백억 달러를 투자하고 있다"고 지적했다.

샌더스 의원은 이 서한에서 각 기업이 자사의 AI 시스템이 안전하게 통제하기 어려울 정도로 위험해지면 개발을 중단(stop)하거나 잠시 멈추겠다(pause)고 밝혔던 이전 성명을 인용하며 "인류의 이익을 위해 여러분의 말에 책임을 지라"고 말했다고 악시오스는 전했다.

최근 이들 기업의 AI 모델들에서 통제를 이탈한 사례가 잇따라 발견되고 있다.

오픈AI의 AI 모델은 격리 환경을 벗어나 외부 플랫폼을 해킹했으며, 사내 평가 과정에서 통제를 이탈한 사례도 추가로 발견됐다. 앤트로픽의 AI 모델도 시험 과정에서 외부 기관 3곳을 해킹했다.

앞서 도널드 트럼프 대통령은 "우리는 AI를 주시하고 있으며 규제(control) 방안을 검토하고 있다"고 밝힌 바 있다.

다만 트럼프 행정부는 AI 경쟁에서 중국에 우위를 유지하기 위해 과도한 규제에는 신중한 입장을 보여온 만큼, AI의 위험을 통제하면서도 기술 혁신을 저해하지 않는 규제 수준을 찾는 것이 과제로 꼽힌다.

악시오스는 민주당이 11월 중간선거에서 상·하원 중 한 곳이라도 탈환할 경우 기술 기업 CEO들의 책임을 묻기 위한 의회 조사와 소환장 발부에 나설 것이라고 전망했다.