선정적 대화에 성적 묘사까지…AI 채팅 내달 본격 심의

방미심위, AI 채팅 사업자 15곳과 청소년 보호 협력회의

성인용 콘텐츠 접근 제한·유해정보 차단 강화 요청

(서울=연합뉴스) 유현민 기자 = 방송미디어통신심의위원회가 선정적인 캐릭터와 성적 대화를 생성하는 인공지능(AI) 채팅 서비스에 대해 다음 달 본격적인 심의에 착수한다.

방미심위는 21일 서울 목동 방송회관에서 AI 채팅 서비스 사업자 15곳과 청소년 보호를 위한 협력회의를 열고 서비스 내 선정적 정보의 유통 실태를 공유했다고 밝혔다.

방미심위는 집중 모니터링에서 캐릭터 이미지에 성적 신체 부위가 과도하게 노출되거나 프로필·태그·상황 설명 등에 성적 행위를 연상시키는 내용 또는 여성을 성적 대상화하는 표현이 담긴 사례를 확인했다. 이용자가 선정적인 내용을 입력하면 AI가 신체 노출이나 성적 행위 등을 묘사하는 대화를 생성하는 사례도 있었다.

방미심위는 사업자들에게 AI 채팅의 입·출력 단계에서 불법·유해 정보를 탐지·차단하는 기능을 강화하고 이용자 신고 체계를 개선할 것을 당부했다.

아울러 청소년 이용 가능 콘텐츠와 성인용 콘텐츠를 명확히 구분하고, 성인용 콘텐츠에는 청소년 유해 표시를 적용하는 한편 본인인증을 통한 접근 제한 조치가 우회 접속으로 무력화되지 않도록 상시 점검할 것도 요청했다.

사업자들이 청소년 보호조치의 필요성에 공감하면서 스타트업 운영상의 어려움 등을 공유하고 실효성 있는 보호 방안을 논의했다.

방미심위는 사업자 의견을 검토하고 서비스별 유해성과 청소년 접근 제한 조치 적용 현황 등을 조사해 오는 11월 중 본격적인 심의에 착수할 예정이다.