미 플로리다주, 오픈AI에 '독립 감시 없는 신규 AI 모델 개발 금지' 법원 요청

(서울=연합뉴스) 이지헌 기자 = 미국 플로리다주는 챗GPT 개발사 오픈AI를 상대로 독립적인 외부 감시 없이는 신규 인공지능(AI) 모델 개발을 금지해달라고 법원에 요청했다.

플로리다주의 제임스 어스마이어 법무장관은 28일(현지시간) 주(州) 법원에 이 같은 내용의 임시명령 신청서를 제출했다고 밝혔다.

플로리다주는 이날 제출한 임시명령 신청서에서 "피고(오픈AI)는 자신들의 서비스가 인류의 존속을 위협하는 실존적 위험을 초래한다고 스스로 인정했다"며 "그들은 스스로를 돛대에 묶어 달라고 정부에 요청했다"고 주장했다.

이어 "법원이 저지하지 않는 한 즉각적이고 실질적이며 회복할 수 없는 피해가 발생할 것"이라며 법원이 긴급히 나서 달라고 요구했다.

앞서 야쿠프 파호츠키 오픈AI 최고과학자는 지난 6일 사내 기고문에서 AI 기술의 위험성을 경고하며 업계가 모두 개발 속도를 늦춰야 한다고 촉구한 바 있다.

샘 올트먼 오픈AI 최고경영자(CEO)는 파호츠키의 글을 엑스(X·옛 트위터)에 인용하며 "중요한 글"이라고 지지 의사를 밝혔고, 이는 'AI 속도조절' 관련 논란을 촉발했다.

플로리다주는 이날 신청서에서 오픈AI가 독립적인 제3자의 안전장치와 승인 없이는 어떤 AI 모델도 개발하지 못하도록 요청했다.

또한 플로리다주 내 미성년자에게 챗GPT 제공을 금지하고, 오픈AI가 사전경고 및 동의 없이 13세 미만 미성년자의 개인정보를 수집·처리하지 못하게 해달라고 요청했다.

이번 임시명령 신청은 앞서 플로리다주가 오픈AI를 상대로 제기한 본 소송이 진행되는 동안 발생할 수 있는 피해를 막고자 제기됐다.

플로리다주는 지난 6월 오픈AI가 안전 경고를 무시하고 충분한 안전장치 없이 챗GPT 서비스를 출시해 아동들에게 손해를 끼쳐 주(州) 공정거래법을 위반했다며 오픈AI와 올트먼 CEO를 상대로 소송을 제기한 바 있다.

이 소송과 별개로 플로리다주 검찰은 지난 4월 2명이 숨지고 6명이 부상한 플로리다주립대 총기 난사 사건의 용의자가 범행 전 챗GPT를 통해 상당한 조언을 제공받았다는 의혹과 관련해 오픈AI에 대한 수사에 착수한 상태다.

한편 오픈AI의 드류 푸사테리 대변인은 성명을 내고 회사가 최고 성능 모델의 훈련을 일시 중단했으며, 추가 안전장치가 마련되기 전에는 이를 재개하지 않을 예정이라고 밝혔다.

이어 "정부는 AI에 대한 강력한 안전 기준을 마련하는 데 중요한 역할을 한다"며 "우리는 플로리다를 비롯한 여러 주와 한 회사만이 아니라 AI 업계 전체에 적용되는 실용적인 AI 정책을 추진하기 위해 협력할 것"이라고 말했다.

월스트리트저널(WSJ)은 오픈AI가 차세대 모델 'GPT-6.1 아스트라'의 출시를 안전성 우려로 철회했다고 이날 보도했다. 이 모델은 출시 전 내부 테스트에서 안전 기준을 충족하지 못했다고 이 신문은 전했다.