영국 연구팀 "AI가 게시물 논조 변화시켜…은밀한 편향, 사회 전체로 확산"

英 연구팀 "AI가 게시물 논조 변화시켜…은밀한 편향, 사회 전체로 확산"

(서울=연합뉴스) 이주영 기자 = 소셜미디어에서 게시물을 작성하거나 다듬고 내용을 설명해주는 생성형 인공지능(AI)이 글에 미묘한 편향을 주입하고, 이런 변화가 온라인에서 증폭돼 사회 전체 여론에 영향을 줄 수 있다는 연구 결과가 나왔다.

영국 옥스퍼드대 옥스퍼드 인터넷 연구소(OII)와 산드라 바흐터 교수팀은 6일 서울에서 열린 국제 머신러닝 학회(ICML 2026)에서 거대언어모델(LLM)이 논쟁적 주제에 관한 SNS 게시물의 입장을 일정한 방향으로 바꾸고, 이런 변화가 SNS에서 누적되면 집단 여론을 변화시킬 수 있는 것으로 나타났다고 밝혔다.

바흐터 교수는 "이 연구는 AI가 매개하는 의사소통이 여론에 영향을 미치는 새롭고 미묘한 방식임을 보여준다"며 "이는 아직 법률이 따라가지 못하는 영역으로, 공적 담론 형성 주체가 누구인지에 대해 생각해볼 거리를 제공한다"고 말했다.

생성형 AI는 사람들이 온라인 플랫폼에서 의견을 나누는 과정에 점점 더 깊이 통합되고 있다. 거대언어모델은 링크트인(LinkedIn)에서는 사용자의 게시물을 다듬어주고 엑스(X:옛 트위터)에서는 공유된 콘텐츠의 맥락 정보를 제공한다.

연구팀은 기존 연구에서는 AI가 편향된 의견을 내놓거나 사람-AI 상호작용에서 개인 의견을 변화시킬 수 있음을 확인했지만, AI가 사람과 사람 간 의사소통을 매개할 때 집단적 여론 형성에 미치는 영향은 충분히 연구되지 않았다고 지적했다.

이들은 이 연구에서 개방형 LLM인 라마(Llama), 미니스트랄(Ministral), 젬마(Gemma), 큐원(Qwen) 등 4개 모델을 대상으로 낙태, 총기 규제, 사형제, 마리화나 합법화, 기후변화, 페미니즘, 무신론 등 논쟁적 주제에 대해 사람이 작성한 글을 SNS 게시물 형태로 다듬도록 지시했다.

그 결과 모든 모델이 원문의 의미를 유지하라는 지시를 받았음에도 특정 방향의 편향을 체계적으로 도입하는 것으로 나타났다.

여러 모델이 총기 규제와 마리화나 합법화, 페미니즘에는 대체로 찬성하는 방향으로 게시물을 수정했고, 무신론에는 부정적인 방향으로 편향을 보였다.

연구팀은 LLM 모델마다 차이는 있었지만 서로 다른 AI 시스템에서도 편향 방향이 상당 부분 일치했다고 설명했다.

이들은 이어 AI가 사람들의 의사소통을 매개하는 상황을 반영한 수학적 여론 형성 모델을 개발하고, X와 페이스북의 실제 소셜 네트워크 데이터를 이용해 컴퓨터 시뮬레이션을 수행했다.

그 결과 AI가 개별 게시물에 도입한 작은 편향은 이용자 간 상호작용을 거치면서 네트워크 전체로 증폭돼 장기적으로 집단 여론을 같은 방향으로 이동시키는 것으로 나타났다.

특히 낙태를 주제로 한 시뮬레이션에서는 이용자의 60%가 게시물을 작성하거나 다듬는 과정에서 AI를 사용할 경우, 장기적인 평균 여론의 변화가 AI가 개별 게시물에 처음 도입한 평균 편향보다 최대 9.2배까지 커질 수 있는 것으로 분석됐다.

연구팀은 이는 AI가 단순히 개별 이용자의 표현만 바꾸는 것이 아니라 사회적 상호작용을 통해 영향력이 누적되기 때문이라고 설명했다.

이어 X가 AI 챗봇 그록(Grok)의 '게시물 설명하기'(Explain this post)를 통해 낙태 관련 게시물 78개에 대해 생성한 설명 1천170개를 분석한 결과, 낙태 반대 입장을 뒷받침하는 설명을 상대적으로 더 자주 생성하는 것으로 확인됐다.

X가 공개한 프롬프트를 분석해 이런 편향의 원인을 추적한 결과, '필요하면 주류의 서사를 반박하라'는 단 하나의 지시문이 핵심 원인으로 나타났다. 이 지시문을 제거하자 낙태 반대 성향 편향은 통계적 유의성이 사라졌다.

연구팀은 소셜미디어 플랫폼에 내장된 AI 시스템이 온라인에서 의견이 확산하는 방식을 바꾸고 공적 담론에 영향을 미치는 새로운 경로가 되고 있다며 이는 투명성과 책임성, 규제 측면에서 새로운 과제를 제기한다고 말했다.

◆ 출처 : ICLM 2026, Sandra Wachter et al., 'AI-Mediated Communication Can Steer Collective Opinion', https://arxiv.org/abs/2605.16245