Anthropic CEO calls for strong government regulation of AI

인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 AI 기술의 발전에 대응해 정부의 강력한 규제와 노동시장 대책이 필요하다고 촉구했다.

앤트로픽은 10일(현지시간) 성명을 내 AI 위험을 다루는 엄격한 연방 법이 의회에서 통과되지 않는 한 주 정부의 AI 규제를 막아서는 안 된다고 주장했다고 로이터 통신이 전했다.

또 의회가 AI 기업이 만드는 최상위 모델에 대해 독립적인 안전성 테스트를 거치도록 요구해야 하며, AI가 촉발하는 실업 등 문제에 대해서도 대책을 강구해야 한다고 이 회사는 강조했다.

다리오 아모데이 최고경영자(CEO)는 이날 개인 블로그에 게시한 '기하급수적 AI 발전에 대한 정책'이라는 에세이를 통해 이와 같은 주장을 구체화했다.

아모데이 CEO는 AI의 발전이 기하급수적으로 가팔라짐에 따라 1∼2년 안에 AI가 '데이터센터 속 천재들의 나라' 수준으로 진화할 것이라면서 이제는 과거 거론됐던 '투명성'만으로는 충분히 규제할 수 없다고 지적했다.

그는 "투명성을 넘어 AI에 더 엄격하고 구속력 있는 규제를 도입해야 할 때"라며 항공기에 대해 기술적 테스트와 감사를 벌이는 연방항공청(FAA)을 모델로 삼아 AI를 규제하는 기관을 설립해야 한다고 강조했다.

AI가 촉발하는 대규모 실업에 대해서도 언급했다.

그는 "장기적인 일자리 대체 현상은 바람직하지 않을 뿐만 아니라 위험하기도 하다"며 고용 촉진을 위한 인센티브나 보편적 기본소득과 같은 소득 지원이 필요할 것으로 보인다고 주장했다.

이어 그는 완전 자율무기 체계에 대해 신뢰할 수 있는 책임 규정을 마련해야 하고, 미국 내 사용을 금지해야 한다고도 강조했다.

앞서 아모데이 CEO는 이날 공개된 블룸버그의 인터뷰 프로그램 '더 서킷 위드 에밀리 창'에서도 AI를 군사 목적으로 사용할 때 인간의 개입이 필요하다고 재차 강조했다.

그는 어린이 120여 명이 사망한 지난 2월 이란 초등학교 미사일 공습에 '클로드'가 사용됐는지 알지 못한다면서도 "우리가 확립한 원칙이자 이번 사건에서도 준수된 원칙은 인간이 최종 결정을 내린다는 것"이라고 말했다.

그러면서 해당 공습이 AI의 도움을 받는 가운데서도 인간이 통제권을 가지는 것이 중요한 이유를 보여주는 사례라고 강조했다.

다만 이민세관단속국(ICE)·세관국경보호국(CBP)이 집행하는 도널드 트럼프 행정부의 이민 단속이나 팔레스타인 가자 지구 등에서는 클로드가 사용되고 있지 않다고 부인했다.

그는 "우리는 우리가 믿는 일에만 관여하도록 범위를 정하는데 매우 신중하다"라고 설명했다.

그러면서도 미 국방부(전쟁부)의 군사 작전에 클로드가 사용되는 것 자체에 대해서는 문제가 없다고 말했다.

아모데이 CEO는 '클로드가 더 많은 사람을 더 빨리 죽이는 데 일조하는 것인데 괜찮으냐'는 질문에 "본질적으로 '이 나라(미국)를 믿느냐'고 묻는 셈"이라며 자신은 애국자로서 미국이 세계 무대에서 더 강력한 행위자가 되기를 바란다고 답했다.

또 기술기업이 특정 군사 작전을 허용하거나 금지할 권한을 가진 것은 아니라며 "군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다"는 견해를 밝혔다.

전문가 수준의 보안 취약점 탐지 능력을 지녀 이른바 '미토스 충격'이라 불리는 우려를 불러온 최상위 AI 모델 '미토스'의 일반 공개를 한동안 미뤄온 이유에 대해서도 입을 열었다.

그는 "모델들이 취약점을 찾아내는 능력은 꾸준히 향상됐지만 이번에는 특히 도약 폭이 컸다"며 "모델을 초기에 사용한 기업들 가운데는 '이건 초강력 무기다. 이걸 사용하려면 총기 허가증이 필요할 정도다. 제발 이걸 공개하지 말아달라'고 반응하기도 했다"고 언급했다.

미토스의 공개를 늦추면서 상업적으로 엄청난 타격을 받았지만, 현재 선도적인 위치에 있어 이를 감내할 여유가 있었다고 아모데이 CEO는 털어놨다.

AI 모델을 개발하면서도 AI의 위험성을 꾸준히 경고해온 행보와 관련해 진행자가 원자폭탄 개발을 주도한 물리학자 J. 로버트 오펜하이머와 공통점이 있다고 생각하느냐고 묻자 그는 "오펜하이머는 실패 사례, 있어서는 안 될 사례로 본다"며 "좋은 결말을 맺으려면 모든 곳에 견제와 균형이 있어야 한다"고 지적했다.