日, AI 안전 의무 법제화 추진…위반 시 벌칙 신설

일본 정부가 고성능 인공지능(AI)이 초래하는 사이버 공격 등 위험에 대응하기 위해 AI 사업자의 안전 확보를 의무화하고 위반 시 벌칙을 신설하는 방안을 검토하고 있다.

12일 마이니치신문에 따르면 일본 정부는 전날 비공개로 열린 AI 법제도 논의 실무 작업반(워킹그룹) 회의에서 이런 방침을 확인했다.

일본 정부는 연말까지 법 개정 내용을 포함한 제도 개편의 전체 윤곽을 마련할 예정이다.

이번 조치는 고성능 AI가 통제 불능 상황이 되거나 사이버 테러에 악용되는 등 안보·안전에 중대한 위협이 발생해도 정부의 시정 요청에 응하지 않는 악질·비협조적 사업자를 처벌할 강제력 있는 수단을 확보하기 위한 것이다.

현행 AI법은 국민 권리 침해 등 문제 발생 시 정부가 AI 사업자를 조사할 수 있도록 규정하고 있으나 처벌 조항은 없다.

정부는 필요시 강제력 있는 시정 명령을 내리고, 이를 위반할 경우 벌칙을 적용하는 방안을 구상 중이다.

다만 벌칙은 위험성이 큰 고성능 AI에 한정해 적용하기로 했다. 일반적인 성능의 AI는 기존 법령과 가이드라인으로 대응할 방침이다.

AI 사업 영역이 기초모델 개발부터 서비스 제공까지 세분돼있는 만큼, 미국 거대 정보기술(IT) 기업을 포함해 규제 대상을 어디까지 포함할지도 논의할 방침이다.

한편 전날 열린 비공개회의에는 생성형 AI '클로드' 개발사인 미국 앤트로픽과 '챗GPT' 개발사 오픈AI의 일본 법인, 일본 통신기업 NTT 등이 참석해 자사의 대응 현황과 의견을 전달했다.