청소년 AI 안전 연구소 집행이사 취임…"자해·정신질환·인지외주화 심각"

청소년 AI 안전 연구소 집행이사 취임…"자해·정신질환·인지외주화 심각"

(샌프란시스코=연합뉴스) 권영전 특파원 = 구글에서 안전팀을 이끌었던 전직 임원이 인공지능(AI)이 사회관계망서비스(SNS)보다 아동·청소년에게 해롭다고 경고했다.

톰 시걸 전 구글 신뢰·안전 담당 부사장은 22일(현지시간) 시민단체 '커먼센스미디어'가 설립한 '청소년 AI 안전 연구소'의 첫 집행이사로 취임하면서 가진 로이터 통신과 인터뷰에서 이같이 말했다.

시걸 이사는 "우리는 AI가 아동에 미치는 영향과 관련해 매우 끔찍한 상황에 부닥쳐 있다"며 "기술 업계가 외부의 도움 없이 스스로 문제를 해결할 것이라는 생각은 비현실적"이라고 지적했다.

그는 특히 거대 기술기업이 SNS를 개발하며 저지른 실수를 AI 분야에서 그대로 반복하고 있다면서, 이들이 충분한 안전장치를 마련하지 않은 채 아동을 대상으로 서비스를 내놓고 있다고 비판했다.

그는 "우리는 매우 심각한 피해 시나리오를 직면하고 있다"며 청소년 자살과 정신질환, 그리고 AI 의존에 따라 비판적 사고 능력이 저하하는 '인지 외주화'를 그 피해 사례로 들었다.

그러면서 그는 어린이의 챗봇 접근을 차단할 수 있는 강력한 연령 확인 조치와 검색 엔진에 자동으로 표시되는 AI 답변을 끌 수 있는 선택지를 제공해야 한다고 강조했다.

이어 자동차 충돌 시험과 유사하게 AI 위험성을 측정할 수 있는 공개된 기준을 정립할 계획이라고 설명했다.

시걸 이사의 이와 같은 발언에 대한 논평 요청에 구글 대변인은 "우리 AI 검색은 아동·청소년이 정보를 탐구하는 데 유용하다"고 해명했고, 오픈AI도 이용 가능 나이에 미달하는 이용자를 다양한 행동 분석을 통해 식별하고 있다고 답했다.

시걸 이사는 2004∼2019년 구글에 재직하며 플랫폼 안전성 강화를 담당했으나, 한계를 느끼고 퇴사해 AI 유해 요소를 감지하는 스타트업 '트러스트랩'을 공동 창업해 이끌어왔다.

오픈AI의 상위 조직인 오픈AI 재단과 앤트로픽은 청소년 AI 안전 연구소를 후원하고 있다.