오픈AI, AI 생성 글 식별 기술 '텍스트그레인' 도입…광고 시범 도입도 발표

답변 품질은 사실상 차이 없어"…이미지 생성시 광고 시범도입도 발표

(샌프란시스코=연합뉴스) 권영전 특파원 = 앤트로픽에 이어 오픈AI도 인공지능(AI)으로 생성한 글에 텍스트 식별무늬(워터마크)를 적용한다.

오픈AI는 유럽연합(EU) AI법의 생성형 AI 투명성 의무 규정에 대응해 AI로 생성한 글인지 식별하는 기술인 '텍스트그레인'을 도입한다고 5일(현지시간) 발표했다.

텍스트그레인은 AI 모델이 글을 생성할 때 단어를 선택하는 과정에서 미세한 통계적 신호를 삽입하는 기술이다.

오픈AI는 이 기술이 적용되더라도 AI의 답변 품질이나 성능, 가독성에는 실질적인 차이가 없다고 설명했다.

다만 문장이 짧거나, 수학 공식과 같이 단어 선택의 유연성이 적은 콘텐츠라면 AI가 생성 여부의 식별률이 떨어지는 등 한계가 있다고도 밝혔다.

생성된 글에서 단어 일부를 이용자가 유의어로 바꾸면 식별률이 크게 떨어지는 등 사후 편집의 영향을 받을 수도 있다고 부연했다

예를 들어 400토큰 분량의 글에서 단어의 10분의 1을 유의어로 바꾸면 식별률은 92%에서 66%로, 4분의 1을 교체하면 17% 수준으로 급락한다는 것이다.

이 기술은 향후 몇 주 내에 EU 지역 내 챗GPT·코덱스 결과물에 적용된다.

개발자용 응용 프로그램 인터페이스(API) 결과물에는 기본 설정으로는 비활성화 상태로 적용되지만, 각 기관의 필요에 따라 자율적으로 워터마크 기능을 켤 수 있다.

해당 식별무늬를 탐지하는 도구는 접근 권한 신청을 받아 승인된 연구자와 전문 기관에만 우선 제공할 방침이다.

앞서 앤트로픽도 유사한 방식의 AI 콘텐츠 식별 기능을 지난 8월 적용했다.

앤트로픽은 당시 이용자들이 클로드 유료 구독을 취소하겠다고 항의하는 등 반발이 커지자 EU 규제에 따른 의무 사항으로 다른 기업 AI 모델에도 적용될 것이라고 해명한 바 있다.

구글 제미나이에도 '신스ID-텍스트'라는 이름의 유사 기능이 적용돼 있다.

한편 오픈AI는 새로운 광고 정책도 이날 함께 발표했다.

챗GPT 내에서 이미지 생성 기능을 이용할 때 시각적 광고를 미국 내 일부 광고주를 대상으로 시범 테스트하겠다는 것이다.

오픈AI는 광고가 챗GPT 답변에 영향을 미치지 않으며, 대화 내용도 비공개로 유지된다고 강조했다.