긴 글 대신 판단·분류에 특화…개발자 사이서 주목

긴 글 대신 판단·분류에 특화…개발자 사이서 주목

100만 토큰 56원 초저가…기업 SW '교통정리' 겨냥

(서울=연합뉴스) 오지은 기자 = 챗GPT처럼 긴 글을 유창하게 써 내려가는 대신, 0.1초 만에 '예·아니오'나 선택지만 제시하는 인공지능(AI)이 개발자 사이에서 돌풍을 일으키고 있다.

5일 정보통신기술(ICT) 업계에 따르면 오픈AI 출신 디오고 알메이다 등이 설립한 타입세이프 AI는 4천만 달러(약 540억원) 규모의 투자를 유치하며 판단 모델 제브(Jev)를 선보였다.

제브는 글을 짓거나 코드를 길게 짜는 대형언어모델(LLM)이 아니다. 문맥을 장황하게 설명하지 못하고, 복잡한 사칙연산이나 날짜 계산도 하지 못한다.

대신 제브는 주어진 데이터를 보고 "이 게시물이 악성 댓글인가?", "이 고객의 질문을 회계팀과 기술지원팀 중 어디로 보낼까?", "규정에 얼마나 부합하는가?"처럼 명확한 기준에 따른 판단과 분류만 전문적으로 수행한다.

기존 LLM이 문장을 한 줄씩 완성하는 데 수 초가 걸리는 것과 달리, 제브는 질문을 받는 즉시 0.1초 안팎에 판단을 끝낸다.

비용 역시 입력 100만 토큰당 0.042달러(약 56원)로 기존 거대 모델보다 수십에서 수백 배 저렴하며, 결과물에 대한 출력 비용은 아예 받지 않는다.

개발자의 가장 큰 호응을 얻는 대목은 '서식 오류'가 구조적으로 일어나지 않는다는 점이다.

실제 개발 현장에서는 고객 상담 분류나 자동화 시스템의 갈림길마다 AI의 판단이 초당 수천 번씩 필요한데, 기존 챗GPT 같은 모델은 정해진 양식을 벗어나 엉뚱한 답변을 하거나 컴퓨터가 읽을 수 없는 오류를 내보내 곤욕을 치르기 일쑤였다.

반면 제브는 애초에 정해진 선택지나 0과 1 사이의 값 외에는 텍스트를 생성하지 못하도록 설계돼 시스템 안정성을 획기적으로 높였다.

업계에서는 AI가 글을 쓰고 상상하는 단계를 넘어, 실제 기업의 소프트웨어 안에서 빠르고 정확하게 결정을 내리는 부품형 AI로 진화하고 있다고 보고 있다.

업계 관계자는 "복잡한 보고서 작성은 챗GPT나 클로드 같은 똑똑한 모델에 맡기더라도 초당 수천 번씩 일어나는 단순 교통정리는 제브처럼 가볍고 빠른 모델에 맡기는 분업화가 시작됐다"라고 분석했다.