Quick Look
DGIST 연구팀이 AI 생성 텍스트의 출처를 증명하고 위변조를 막는 'BREW' 기술을 개발했다. 이 기술은 96.5%의 탐지율과 2%의 오탐률을 보이며, 가짜뉴스 방지와 디지털 저작권 보호에 기여할 것으로 기대된다.
AI-generated summary
Why It Matters
DGIST 연구팀이 AI 생성 텍스트의 진위 여부를 판별하고 출처를 증명하는 'BREW' 기술을 개발했다. 이 기술은 AI가 작성한 글에 보이지 않는 디지털 워터마크를 심어 텍스트 훼손 시에도 AI 생성 여부와 출처를 증명한다.
대구경북과학기술원(DGIST)은 전기전자컴퓨터공학과 김영식 교수 연구팀이 인공지능(AI) 생성 여부를 확인하고 출처를 증명하는 가짜 방지 기술을 개발했다고 2일 밝혔다.
BREW(Block-wise Reliable Embedding for Watermarking)로 이름 붙여진 해당 기술은 AI가 작성한 글에 눈에 보이지 않는 고유의 디지털 워터마크를 정교하게 심어, 텍스트가 훼손되거나 조작돼도 AI 생성 여부와 출처를 증명한다.
BREW는 글을 여러 조각(블록)으로 나누어 독립적으로 검증하고, 문장의 미세한 변화를 추적하는 방식을 도입했다.
단어를 교체하거나 문장 구조를 교묘하게 비트는 등 워터마크를 지우려는 시도가 있더라도 '윈도우 시프팅(Window-Shifting)' 기법을 통해 워터마크를 안정적으로 추적한다.
실험 결과 BREW는 AI 생성 글의 10%를 동의어로 바꾸는 훼손 환경에서도 96.5%의 탐지율을 유지했다.
200단어 정도의 짧은 글에서도 성능을 입증했고, 사람이 작성한 일반 글을 AI 생성 글로 잘못 판단하는 오탐률은 2% 수준으로 낮췄다.
김 교수는 "이번 연구는 사람이 쓴 글을 AI가 쓴 것으로 오인하던 기존 기술의 치명적 결함을 극복하고, 악의적인 텍스트 훼손 시도까지 완벽히 방어해내는 강력한 기술"이라며 "향후 가짜뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식(Forensic·디지털 증거 추출) 분야에서 핵심적인 역할을 할 것"이라고 밝혔다.
해당 연구 성과를 담은 논문은 인공지능 분야 최고 권위 학회인 'ICML 2026'에 채택됐다.
What to Watch
AI outlook — possibilities, not facts
가짜뉴스로 인한 사회적 혼란 감소 및 디지털 저작권 보호 강화
Likely · Medium term
Open Questions
- BREW 기술의 상용화 계획은?
- 다른 AI 모델에도 적용 가능한가?
