[AI프리즘] "AI 에이전트 똑똑해질수록 추론 인프라가 관건"

AI 에이전트 확산에 메모리·추론 효율화 중요성 부각

피지컬 AI, 데이터 부족·높은 신뢰성 기준이 기술 과제

(서울=연합뉴스) 권하영 기자 = 인공지능(AI) 에이전트가 고도화할수록 이를 빠르고 효율적으로 구동하기 위한 추론 인프라의 중요성이 커질 것이라는 전망이 나왔다.

오픈소스 AI 모델이 비용 대비 성능 경쟁에서 두각을 나타내는 가운데 한국 모델은 주요 경쟁 구도에 진입하지 못하고 있다는 지적도 제기됐다.

이러한 인프라 효율화 과제는 소프트웨어 에이전트에 국한되지 않는다. 로봇의 두뇌 역할을 하는 피지컬 AI 모델 역시 복잡한 정보를 처리하고 작업을 수행하는 과정에서 유사한 문제에 직면할 수 있다는 분석이다.

전병곤 프렌들리AI 대표는 14일 서울 코엑스에서 열린 '피지컬 AI 테크 데이'에서 "AI 에이전트가 똑똑해질수록 이를 얼마나 빠르고 효율적으로 작동시키느냐가 관건이 될 것"이라며 이같이 말했다.

◇ AI 에이전트 확산에 추론 효율화 중요성 부각

전 대표는 올해를 스스로 판단하고 수행하는 AI 에이전트의 시대로 규정했다. 특히 코딩 분야를 예로 들며 현재 개발자가 담당하는 업무 비중이 50%대지만, 내년에는 10% 수준까지 줄고 나머지는 에이전트가 수행하게 될 것으로 내다봤다.

이 같은 AI 에이전트의 확산을 뒷받침하는 기술적 기반으로는 외부에 공개돼 누구나 활용할 수 있는 오픈모델의 성능 향상을 꼽았다.

전 대표는 오픈모델이 최근 높은 성능을 보이기 시작했다고 설명했다. 소프트웨어 개발 역량을 평가하는 벤치마크에서 모델별 비용 대비 성능을 비교하면, 오픈모델들이 적은 비용으로 높은 성능을 내는 최적의 곡선인 '파레토 프론티어(Pareto Frontier)'를 형성하고 있다는 것이다.

그러나 이 같은 경쟁 구도는 주로 중국 모델이 차지하고 있으며, 아직 한국 모델은 이름을 올리지 못했다고 지적했다.

AI 에이전트 확산에 따라 새롭게 부각되는 기술적 과제로는 메모리 부담을 꼽았다.

일반 챗봇과 달리 에이전트는 작업을 거듭할수록 이전 대화와 작업 이력을 새로운 입력값에 계속 포함해야 해 처리해야 할 정보량이 기하급수적으로 늘어난다는 설명이다.

실제 코딩 에이전트는 한 번의 처리에 입력 정보량이 11만6천 토큰(AI가 텍스트를 처리하는 최소 단위)에 달하지만, 결과물로 나오는 출력은 184토큰에 그쳐 입력과 출력 간 불균형이 큰 것으로 나타났다.

이렇게 누적된 작업 내용은 '키-밸류(KV) 캐시'라는 임시 저장공간에 담겨 필요할 때마다 불러와 활용하는 구조인데, 작업 이력이 길어질수록 필요한 메모리 용량도 커지고 이에 따라 동시에 처리할 수 있는 에이전트 수가 줄어드는 문제가 발생한다.

이를 해결하기 위해 업계는 이전 기록 전체가 아닌 중요한 일부 구간만 선택해 계산하는 '스파스 어텐션(Sparse Attention)' 기법과 저장 정보량 자체를 줄이는 압축 기법 등을 활용해 모델과 시스템의 효율을 높이고 있다.

프렌들리AI가 자체 개발한 '컨티뉴어스 배칭(Continuous Batching)' 기술도 여러 사용자의 요청을 묶어 처리하는 방식으로, 현재 업계 표준 기술로 자리 잡았다고 전 대표는 덧붙였다.

전 대표는 이러한 과제가 피지컬 AI에서도 반복될 것으로 전망했다. 로봇이 사람처럼 상황을 이해하고 여러 단계에 걸쳐 작업을 이어가려면 현재의 AI 에이전트와 유사한 구조의 모델이 필요하며, 영상과 센서 정보가 많아질수록 소프트웨어 에이전트와 마찬가지로 메모리 부담이 커질 수밖에 없다는 것이다.

◇ 피지컬 AI, 데이터 확보와 작업 신뢰성이 관건

이어진 발표에서는 피지컬 AI 산업의 투자 열기와 함께 기술적 난제도 조명됐다.

화상으로 참여한 김상배 매사추세츠공대(MIT) 교수 겸 메타 로보틱스 아키텍트는 최근 AI 기술을 웹상의 글과 이미지, 소리 등 디지털 데이터를 다루는 '버추얼 인텔리전스'와 현실에서 몸을 움직이는 '피지컬 인텔리전스'로 구분했다.

언어와 이미지 데이터는 사람이 만들어낸 것으로 비교적 확보하기 쉽지만, 로봇이 다루는 촉각과 힘, 움직임 등 물리적 정보는 인터넷에 존재하지 않아 수집 자체가 어렵다고 설명했다.

데이터 확보의 어려움은 로봇의 신뢰성과도 직결된다. 김 교수는 "버추얼 인텔리전스 영역에서는 99%의 성공률이면 훌륭하지만, 로봇은 99%의 성공률로는 쓸모가 없다"며 로봇은 작업 하나하나에서 실수를 용납하기 어렵다고 강조했다.

그는 테슬라의 자율주행 데이터가 약 1천500만마일(약 3억7천500만시간) 규모로 쌓인 데 비해 로봇의 손동작을 다루는 '매니퓰레이션(Manipulation)' 데이터는 이제 1년 치 안팎에 그친다고 설명했다.

데이터 규모의 차이뿐 아니라 로봇 팔은 자동차보다 자유도, 즉 움직일 수 있는 방향의 수가 훨씬 많고 작업 목적도 순간마다 바뀌기 때문에 기술적으로 해결해야 할 문제의 난도가 높다는 분석이다.

◇ 정부, 피지컬 AI 실증·사업화 지원 강화

정부는 이러한 AI 진화 흐름을 토대로 피지컬 AI 생태계 조성을 위해 산업 전반에 대한 지원을 강화할 방침이다.

류제명 과학기술정보통신부 제2차관은 "피지컬 AI는 반도체, AI 데이터센터와 함께 대한민국의 미래를 이끌 3대 메가프로젝트의 한 축"이라며 "제조와 물류, 농업, 의료, 모빌리티 등 다양한 산업의 생산성과 안전성을 높이고 새로운 제품과 서비스를 창출하는 AI 대전환의 핵심 기술"이라고 강조했다.

이어 "어느 하나의 기술이나 기업만으로 완성될 수 없는 만큼 산·학·연의 긴밀한 협력이 중요하다"며 "우수한 기술이 연구개발에 머무르지 않고 현장 실증과 사업화로 이어질 수 있도록 산업 적용과 확산을 적극 지원하겠다"고 말했다.

박윤규 정보통신산업진흥원(NIPA) 원장은 "그간 AI 산업이 더 뛰어난 기술을 개발하고 활용성을 검증하는 데 집중해 왔다면 이제는 실증을 넘어 실행을 전면화해야 하는 시점"이라고 진단했다.

그러면서 "우리나라가 보유한 세계적인 제조 역량과 우수한 AI 기술, 풍부한 산업 현장을 바탕으로 피지컬 AI 활용을 확산하고 산업 경쟁력 강화와 실질적인 성과 창출로 이어갈 것"이라고 전했다.

한편 이번 행사는 '피지컬 AI 테크 위크'의 일환으로, 전날 열린 '피지컬 AI 얼라이언스 데이'에 이어 마련됐다. 국내외 산·학·연 전문가들이 참여해 피지컬 AI의 글로벌 기술 동향과 미래 발전 방향을 공유하고 국내 기술 경쟁력 강화와 산업 확산을 위한 협력 방안을 논의했다.