EU AI 규제, 2일 시행…위반 시 최대 3천400만 유로 과징금

유럽연합(EU)의 인공지능(AI) 규제가 2일(현지시간)을 기해 시행됐다.

EU는 2024년 AI를 규제하는 최초의 포괄적인 법률인 'AI법'(AI Act)를 도입한 바 있다.

AI법 발효에 따라 이날부터 출시되는 신규 AI 생성형 콘텐츠에는 AI가 만든 것이라는 표시를 해줘야 하며, 이용자가 챗봇과 같은 AI 시스템과 상호작용을 할 경우 AI와 대화하고 있다는 사실을 사전에 명확히 알려야 한다.

다만, 기존 AI 시스템에는 새 규정에 맞출 수 있도록 오는 12월 2일까지 유예 기간이 주어진다.

EU는 규제 집행을 위해 집행위 산하에 기술 전문가, 변호사, 경제학자 등 수십 명으로 구성된 AI 사무국을 설치해 챗봇과 같은 범용 AI 모델이 법규를 준수하는지를 확인하게 된다.

EU는 기업이 규정을 위반했다고 판단될 경우 위반 사항 시정을 명령할 수 있고, 이를 이행하지 않으면 과징금을 매길 수 있다.

가장 무거운 과징금을 부과받은 기업은 전 세계 연간 매출의 최대 7%나 3천400만 유로 가운데 더 큰 금액을 내야 한다.

AI 규정을 위반하는 기업을 상대로 벌금을 부과할 수 있는 권한을 갖게 됨에 따라 EU 집행위원회는 AI 기술 분야에서 세계에서 가장 영향력 있는 규제 기관으로서의 역할을 더 확고히 하게 됐다는 평가가 나온다.

아울러, AI법에 따른 추가 규정들도 올해 말부터 순차적으로 시행될 예정이다. 오는 12월부터는 선정적 딥페이크를 생성하는 AI 시스템이 금지된다. 이 조치는 일론 머스크 테슬라 대표의 AI 챗봇 '그록'이 당사자 동의 없이 나체 이미지를 생성해 논란을 불러일으킨 이후 도입됐다.

안전과 보건, 시민 기본권을 위협할 수 있는 것으로 여겨지는 고위험 AI 모델에 대한 규제는 기업들이 대비할 여유를 추가적으로 제공하기 위해 시행을 내년 12월부터로 연기했다.

헤나 비르쿠넨 EU 집행위원회 부위원장은 AI 규제 시행을 앞두고 "이번 조치는 기만과 조작을 줄이고, 사람들이 충분한 정보를 바탕으로 올바른 선택을 할 수 있도록 돕기 위한 것"이라고 밝혔다.

비르쿠넨 부위원장은 "AI는 유럽 시민과 기업에 엄청난 혜택을 제공할 수 있는 혁신적인 기술이지만, 적절히 설계되고 사용되지 않으면 피해를 줄 수 있다"면서 "특히 가장 발전된 AI 모델은 이전과는 차원이 다른 새로운 규모의 위험을 초래할 수 있다는 점이 확인되고 있다"고 덧붙였다.

한편, EU의 AI 규제가 시행에 들어감에 따라 미국이 반발할 가능성도 관측된다. 도널드 트럼프 미국 행정부는 EU가 디지털 규제를 빌미로 미국 빅테크 기업을 옥죄고 있다며 노골적인 불만을 표출해 왔다.

EU의 AI 규제가 기술 기업에 불필요한 부담을 지워 혁신을 저해할 수 있다는 업계의 비판도 존재한다.