AI 허위정보, '불신 조장'이 목적…기존 팩트체크로 따라가기 어려워

예전 가짜뉴스는 사람을 끝까지 속이는 게 목적이었다면 지금은 인공지능(AI)으로 만드는 허위정보는 목적 자체가 '불신 조장'으로 양상이 달라졌습니다.

차미영 독일 막스플랑크 보안 및 정보보호 연구소(MPI-SP) 단장은 7일 서울 강남구 한국과학기술회관에서 열린 공동인터뷰에서 지금은 특정 분야에서 '도대체 누구 말을 믿어야 하는지 모르겠다'는 불신을 일으키는 것이 AI 허위정보의 목적"이라며 기존 팩트체크로 따라가기 어려운 환경이 만들어지고 있다고 말했다.

AI와 빅데이터를 활용해 가짜뉴스 탐지, 기후위기 대응, 빈곤 분석 등 다양한 사회문제를 연구하는 데이터 과학자인 차 단장은 이날 '2026 세계한인과학기술인대회' 기조 강연을 위해 방한했다.

독일 막스플랑크 보안 및 정보보호 연구소(MPI-SP)는 세계적인 기초과학 연구기관인 막스플랑크 산하 사이버보안·프라이버시 전문 연구소로 암호 기술과 AI 안전성, 디지털 신뢰 기술 등을 연구하는 유럽의 대표 연구 거점이다.

차 단장은 한국과학기술원(KAIST) 교수 및 기초과학연구원(IBS) CI를 거쳐 2024년한국인으로는 처음 막스플랑크 단장으로 부임했다. 그는 MPI-SP에서 '인류를 위한 데이터 과학' 연구그룹을 이끌고 있다.

그는 "팩트체크가 중요하지만, 사람이 일일이 하는 작업이 오래 걸리기 때문에 (가짜뉴스를) 따라잡기 어렵다"며 "플랫폼들도 팩트체킹 중심에서 알고리즘적으로 다른 이야기를 전하는 노출 조정 방식으로 변화하고 있다"고 말했다.

이날 온라인 허위조작정보 대응을 위한 개정 정보통신망법이 시행된 것과 관련해 그는 "가짜뉴스는 생성하는 사람뿐 아니라, 전파하는 소셜미디어나 매체, 퍼 나르는 이용자 등 책임 주체가 많다"며 "모든 것에 대응하기보다 선거 같은 온라인 공론장에서 나오는 의견을 토대로 의사결정이 되는 이슈가 있다면 그때 집중해 모니터링하는 게 맞는 것 같다"고 말했다.

그는 "유럽연합(EU)은 플랫폼이 잘못했을 때 막대한 벌금을 부과하지만, 한국은 아직 그런 부분이 부족하다"며 한국이 개인정보 보호 규제 등에서는 강점을 보이지만 사회적 윤리 관련 규제에서는 상대적으로 약한 측면이 있다고도 평가했다.

차 단장은 AI가 원천기술 측면이 크고 '이중용도' 특성이 큰 만큼 연구자들의 사회적 책임도 중요하다고 강조했다.

도시 빈부격차를 분석하는 AI 기술도 전쟁에 이용될 수 있고, 신약 개발 알고리즘도 잘못 활용될 수 있다는 설명이다.

그는 "전에는 얼굴 탐지 기술이 인기가 많았지만, 지금은 다뤄지지 않았으면 하는 기술처럼 보류되고 있다"며 "위험한 기술로 분류가 될 수 있는 만큼 기술을 혹시 만들었을 때 나쁘게 쓰일 수 있지 않을까 하는 가능성을 항상 염두에 둬야 한다"고 말했다.

또 AI 연구도 대형언어모델(LLM) 같은 원천기술뿐 아니라 사회 문제 해결을 위한 'AI+X' 융합연구가 더욱 확대돼야 한다고 그는 덧붙였다.

유럽에서 활동 중인 차 단장은 유럽의 연구환경에 대해 개인 삶을 존중하는 문화가 있고 안정적인 지원이 이뤄지고 있지만 편향 문제에 민감한 규제 등으로 혁신 속도를 늦추는 측면도 있다고 짚었다.

독일의 알레프알파, 프랑스 미스트랄AI 등 소버린 AI를 강조한 기업들이 최근 미국 투자로 넘어간 것도 이런 측면이 반영됐다고 그는 설명했다.

그는 "한국은 규제가 상대적으로 약한 것이 오히려 초기 AI 산업에는 장점이 될 수 있다"며 "사회에 적용하기 전까지는 규제 샌드박스를 통해 충분히 다양한 실험을 할 수 있도록 하는 것이 경쟁력이 될 수 있다"고 말했다.