팀네이버, AI 학회서 LLM 취약점 탐지 기술 등 연구 성과 공개

팀네이버가 세계적인 인공지능(AI) 학회 'ICML 2026'에서 대규모언어모델(LLM)의 취약점을 찾아내는 기술을 비롯한 AI 연구 성과를 공개했다.

네이버는 지난 6∼11일 서울 코엑스에서 열린 ICML 2026에 참가해 AI 안전성과 모델·에이전트 운영, 3차원 공간 이해 분야의 연구 및 서비스 사례를 선보였다고 밝혔다.

가장 주목받은 성과는 LLM의 보안 취약점을 공격자 관점에서 찾아내는 레드티밍 기술 '스테이블 지플로우넷'이다.

이 연구는 전체 채택 논문 가운데 상위 약 2.2%에 해당하는 '스포트라이트' 논문으로 선정됐다.

레드티밍은 AI에 의도적으로 공격적인 질문이나 명령을 입력해 잘못된 답변이나 보안상 취약점을 찾아내는 검증 방식이다.

스테이블 지플로우넷은 기존 레드티밍 기술에서 나타난 학습 불안정과 비슷한 공격 문구가 반복적으로 생성되는 문제를 개선했다.

이를 통해 LLM을 실제 서비스에 적용하기 전에 더 다양하고 강도 높은 공격 상황을 시험할 수 있다고 네이버는 설명했다.

여러 AI 모델과 에이전트를 효율적으로 운영하기 위한 '시머지'와 '플로우봇' 등의 기술도 공개됐다.

시머지는 서로 다른 작업에 특화된 여러 AI 모델을 하나로 합치는 기술이다.

모델 전체를 다시 학습하지 않고 하나의 층만 조정해 각 모델의 장점을 결합하는 방식이다.

네이버는 시머지가 이미지 인식과 자연어처리 등 다양한 성능 평가에서 높은 수준의 결과를 기록했다고 소개했다.

플로우봇은 여러 AI 에이전트가 협력해 문제를 해결할 때 어떤 순서로 일을 처리할지 AI가 스스로 결정하는 기술이다.

기존에는 개발자가 각 에이전트의 역할과 실행 순서를 일일이 설계해야 했지만, 플로우봇을 활용하면 AI가 효율적인 작업 흐름을 자동으로 구성할 수 있다.

팀네이버는 흔들리거나 초점이 흐린 단일 카메라 영상만으로 움직이는 물체와 공간을 3차원으로 복원하는 기술도 선보였다.

이 기술은 물체가 움직인 궤적을 먼저 분석한 뒤 형태를 추정해, 움직임과 외형 정보가 뒤섞이는 기존 방식의 한계를 보완했다.

또한 서울 전역의 공간 데이터를 디지털 환경에 구현한 '서울 월드 모델'을 공개했다.

월드 모델은 AI가 현실 공간의 구조와 변화를 이해하고 앞으로 벌어질 상황을 예측하도록 돕는 기술이다.

네이버는 서울 월드 모델이 로봇과 자율주행차가 실제 공간을 인식하고 이동하는 데 필요한 피지컬 AI 기반 기술로 활용될 수 있다고 전했다.