AI 개발 초기부터 젠더폭력 위험 점검 기준 마련해야

세 줄 요약

한국여성정책연구원은 23일 인공지능 서비스를 개발하고 평가하는 단계에서부터 젠더폭력 위험을 점검하는 기준을 마련해야 한다고 밝혔다.

미국은 욕설, 혐오 표현, 선정적·폭력적 정보 등을 '유해 콘텐츠'로 분류해 데이터 학습을 막고 있지만 한국은 '성차별적이거나 인종차별적인 답변을 하지 않는다'는 내용의 프롬프트를 입력하는 정도에 불과한 실정이라고 연구원은 지적했다.

연구원은 "AI 기술이 디지털 성범죄를 확산하는 도구로 활용되지 않도록 사전에 위험을 점검하고 대응할 수 있는 안전 기준을 구체화해야 한다"고 강조했다.

인공지능이 자동으로 줄인 '세 줄 요약' 기술을 사용합니다.

전체 내용을 이해하기 위해서는 기사 본문과 함께 읽어야 합니다.

(서울=연합뉴스) 홍준석 기자 = 한국여성정책연구원은 23일 인공지능(AI) 서비스를 개발하고 평가하는 단계에서부터 젠더폭력 위험을 점검하는 기준을 마련해야 한다고 밝혔다.

연구원은 AI 서비스 개발을 담당하는 국내 전문가 8명을 상대로 심층 면접조사를 한 결과 AI 윤리와 안전에 대한 인식은 성능과 수익에 비해 뒷순위로 밀리는 것으로 확인됐다면서 이같이 제언했다.

미국은 욕설, 혐오 표현, 선정적·폭력적 정보 등을 '유해 콘텐츠'로 분류해 데이터 학습을 막고 있지만 한국은 '성차별적이거나 인종차별적인 답변을 하지 않는다'는 내용의 프롬프트를 입력하는 정도에 불과한 실정이라고 연구원은 지적했다.

연구원은 "AI 기술이 디지털 성범죄를 확산하는 도구로 활용되지 않도록 사전에 위험을 점검하고 대응할 수 있는 안전 기준을 구체화해야 한다"고 강조했다.

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>