오픈AI 최고과학자, AI 위험 경고 속도 조절 촉구… 보고서는 '연구 가속화'로 엇박자

(샌프란시스코=연합뉴스) 권영전 특파원 = 챗GPT 개발사 오픈AI의 최고과학자가 인공지능(AI) 기술의 위험성을 경고하며 업계 전반의 개발 속도 조절을 촉구했다.

그러나 같은 날 발표한 오픈AI의 별도 보고서는 '연구 가속화'를 내세우며 엇박자를 보였다.

야쿠프 파호츠키 오픈AI 최고과학자는 6일(현지시간) 오픈AI 홈페이지에 게시한 '외계의 지성'(An Alien Mind)이라는 기고문을 통해 "기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다"고 우려를 표시했다.

그는 현대의 AI에 대해 "설계되는(designed) 것이라기보다는 재배되는(grown) 것"이라고 소개하면서 AI의 작동 방식을 인간이 완전히 이해하기는 어렵다고 지적했다.

인간이 정밀하게 그린 설계도에 맞춰 만들어지는 것이 아니라 마치 생물처럼 자라나는 것이기 때문에 인간이 AI를 완전히 통제하기는 어렵다는 것이다.

실제로 AI 감시를 위해 적용한 '생각의 연쇄'(CoT) 모니터링 등 안전장치도 모델 고도화에 따라 점차 저하되고 있다고 강조했다.

그는 AI 개발을 지속해야 방어 체계를 구축할 수 있다는 AI 업계의 주장에 대해 "(방어체계 구축이) 무모한 행동을 정당화하는 구실로 삼아서는 안 된다"고 반박했다.

이어 AI가 인간에게 위협이 되는 행동을 거부하도록 하는 '정렬' 문제를 충분히 해결한 연구소는 아직 한 곳도 없다면서 "공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화하기를 기대하고 희망한다"고 말했다.

그러면서 "AI 개발에 대한 국제적 협력이 세계 각국 정부의 최우선 과제가 돼야 한다"고도 덧붙였다.

샘 올트먼 최고경영자(CEO)도 파호츠키 최고과학자의 이 글을 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 인용하면서 "중요한 글"이라고 지지 의사를 밝혔다.

올트먼 CEO는 수년간 여러 차례 제기된 AI 개발 속도조절론에 일관되게 회의적인 태도를 보여왔지만, 최근 GPT 모델의 '허깅페이스' 해킹 사건 이후에는 전향적으로 의견을 바꿔 속도조절론을 지지하고 있다.

그러나 오픈AI가 이날 별도로 발행한 '연구 가속화' 보고서는 다소 상반되는 내용을 담고 있어 눈길을 끈다.

오픈AI는 이 보고서에서 자체 AI 개선과 코딩을 수행하는 '자동화 AI 연구 인턴'이라는 목표를 달성했다면서, 2028년 3월까지 이를 개선해 '자동화 AI 연구원'을 개발하겠다는 새로운 목표를 제시했다.

하루 8시간 근무를 기준으로 인간 연구원이 1일 근무할 때 AI 에이전트는 3.1일에 해당하는 작업량을 보인다고도 밝혔다.

보고서는 이와 같은 자동화 AI 연구가 오히려 '정렬' 문제 해결에 도움이 될 수 있다고 주장해 파호츠키 최고과학자와는 상반된 견해를 드러냈다.

다만, 보고서는 "그렇다고 (AI의) 빠른 '반복적 자가개선'(RSI)이 반드시 추구해야 할 내용이라는 뜻은 아니다"라며 "이를 추진할지와 그 방식은 민주적 선택에 달려 있어야 한다"고 한발 물러서기도 했다.