전 오픈AI 직원, AI 안전 우려 제기 "충분한 노력이 부족"

(로스앤젤레스=연합뉴스) 김경윤 특파원 = 인공지능(AI)이 인류를 멸망시킬 수 있다는 우려마저 나오는 속에 전 오픈AI 직원이 회사가 안전 확보를 위해 충분히 노력을 기울이지 않고 있다고 공개 지적했다.

데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 디애틀랜틱에 기고문을 싣고 "이 기술(AI)을 구축하는 기업들이 충분히 신중하지 않다는 최근 다른 퇴사자들의 의견에 동의한다"며 AI 업계 전반의 안전장치가 허술하다고 짚었다.

로빈슨은 "오픈AI는 문제를 찾으면 가드레일(안전장치)을 개선하는 방식의 시행착오 방식으로 성장해왔다"며 "이 방식은 주기적인 실패를 상정하며, 시스템이 강력해질수록 실패의 크기도 커지고 있다"고 비판했다.

일단 성능을 높인 AI 모델을 배포하고, 문제가 생기면 조금씩 고치는 방식으로 기술을 개발해왔다는 것이다.

문제는 AI의 성능이 예전과는 비할 데 없이 좋아졌다는 것이다.

로빈슨은 AI모델의 테스트 감지 능력이 향상되기 시작했고, 시험 단계와 배포 시 다르게 행동하는 형태로 개발진을 속일 가능성도 있다고 봤다.

그는 업계 전반이 개발 속도에만 집중하느라 안전 문제를 도외시하고 있으며 "문제가 발생하면 언제든 해결할 수 있으리라는 막연한 낙관주의"가 깔려 있다는 점도 꼬집었다.

이어 "이러한 환경은 우리보다도 더 똑똑해질 수 있고, 우리가 원하는 대로 작동하지 않을 수 있는 AI를 키워낼 장소가 아니"라며 "AI 기업들은 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영돼야 한다"고 주장했다.

로빈슨은 오픈AI에서 3년 반 동안 근무하며 사내 최장기 근속자 중 하나로 안전 보고서 작성을 총괄해왔지만, 최근 사직했다.

이와 관련해 오픈AI 측은 충분한 안전장치를 마련하고 있다고 해명했다.

오픈AI 관계자는 "모델 성능이 우리가 안전하게 통제할 수 있는 범위를 넘어서지 않도록 보장하고 있다"며 "속도를 줄여야 할 때 훈련을 중단하거나 모델 출시를 보류하고 있다"고 밝혔다.