구글 어스, AI 이미지 편집 기능 '허위정보 악용 우려'에 하루 만에 철회

항공사진과 위성사진 등 지리정보를 바탕으로 지구 표면의 모습을 보여주는 서비스 '구글 어스'가 인공지능(AI)으로 이미지를 편집하는 기능을 추가했다가, 허위 정보 생산에 악용될 소지가 있다는 지적을 받고 하루 만에 이를 철회했다.

알파벳의 자회사인 구글은 지난 30일(현지시간) 구글 어스에 구글의 AI 이미지 생성 도구인 '나노 바나나 2'를 통합해 제공한다고 발표했다.

사용자들은 이 기능을 써서 구글 어스의 위성·항공·3D 지도 데이터를 바탕으로 특정 위치를 확대해 몇 초 만에 이미지를 생성할 수 있었다.

구글 어스의 제품 관리자(PM) 브라이언 호로위츠는 이 기능 통합을 통해 "역사를 시각화해 되살리고", "전문적인 부동산 계획을 작성하고", "착공 전에 건설계획을 시각화하는" 등 다양한 작업을 할 수 있게 됐다고 설명했다.

그러나 공개출처정보(OSINT) 전문가들과 허위정보 연구자들은 이 기능이 가짜 정보 생성에 악용될 우려가 크다며 강하게 반발했다.

실제 지형·건물 이미지 위에 그럴듯한 가짜 장면을 덧씌울 수 있기 때문에 사실확인 작업을 어렵게 만들 수 있다는 것이다.

구글 어스는 전쟁 지역이나 접근이 제한된 현장의 피해 상황, 군사시설, 재난 현장 등을 확인할 때 언론인들과 연구자들이 기준 자료로 즐겨 써 왔다.

영국 파이낸셜타임스(FT)에 따르면 추가된 기능을 이용해 생성된 가자지구 폭탄 분화구, 이란 핵시설, 암스테르담 거리 자동차 사고 장면 등의 가짜 이미지가 소셜 미디어 X에 올라왔다.

AFP통신은 자체 시험에서 파리에서 일어난 폭발, 이란 핵시설, 러시아의 폭탄 분화구, 시리아의 이슬람국가(IS) 훈련장 등 국제적으로 민감한 사안을 연상시키는 가짜 위성 이미지를 만들 수 있었다고 전했다.

논란이 커지자 호로위츠 PM은 기능 도입 후 24시간이 지나기 전인 31일(현지시간) 업데이트를 올려 이 기능 통합을 일단 철회한다고 공지했다.

그는 "우리는 믿을만한 방식으로 세계를 보여주는 구글 어스에 사람들이 품고 있는 독보적 신뢰를 알고 있다. 우리는 지리공간 전문가들이 이 기능을 다양한 유용한 목적으로 사용하는 것을 봤지만, 우리 정책을 위반하는 것으로 보이는 생성 이미지의 스크린샷을 사람들이 공유하는 것도 봤다"며 "더 강력한 안전장치를 구현하는 동안 구글 어스에서 이 기능을 롤백(되돌림)하겠다"고 말했다.

AI 편집 도구로 생성된 이미지는 다른 이용자들이 보는 구글 어스의 기본 화면에는 표시되지 않았으며, AI로 생성됐다는 워터마크도 붙어 있었다

그러나 전문가들은 이런 정도로는 AI 편집 도구를 악용한 허위정보 확산을 막기에 충분하지 않다고 지적했다.

앨런 튜링 연구소의 샘 스톡웰 선임연구원은 FT에 "구글 어스는 수십년간 언론인들과 조사관들이 의심스러운 이미지를 대조해 확인하는 기준 레이어 역할을 해왔다"며 "그 기준물 안에 생성형 도구를 넣는 것은 가짜를 폭로하는 데 쓰이는 잣대를 오염시키는 일"이라고 말했다.

로이터통신은 메타가 이달 초 공개 인스타그램 계정을 이용해 이미지를 생성할 수 있는 AI 기능 '뮤즈 이미지'를 도입했다가 개인정보 보호 논란으로 중단한 사례도 함께 전했다.

AI 생성 이미지가 실제 사건의 증거처럼 유포돼 혼란을 일으킨 사례는 최근 들어 흔해졌다.