"사고 공간서 출력과 무관한 개념·계산 가능"

사고 공간서 출력과 무관한 개념·계산 가능

(서울=연합뉴스) 김승욱 기자 = 앤트로픽이 자사의 생성형 인공지능(AI) 모델 '클로드' 내부에서 겉으로 드러내지 않는 별도의 사고 공간이 존재한다는 연구 결과를 내놓았다.

앤트로픽은 6일(현지시간) 홈페이지에 공개한 연구 결과에서 클로드 내부에 아이디어를 보관하고 조작하는 소규모 내부 작업 공간이 있음을 확인했다며, 이는 인간이 의식적으로 사고에 접근하는 방식과 유사성을 보인다고 밝혔다.

AI도 인간처럼 겉으로 드러내지 않고 속으로 다른 생각을 하거나 전략을 짜는 듯한 구조를 지녔다는 의미로 해석이 가능하다.

앤트로픽은 이날 공개한 영상에서 클로드가 사용자에게 공개하는 사고 과정과는 별도로 현재 수행 중인 과제와 직접 관련이 없는 전략을 계획하는 독립적인 내부 영역을 활용한다고 소개했다.

앤트로픽은 이 공간을 'J-공간'이라고 명명했다. 이 공간을 탐지하는 데 사용한 수학 기법(Jacobian)에서 이름을 따왔다.

앤트로픽은 "인간이 한 가지 일을 하면서도 다른 생각을 할 수 있는 것처럼 클로드도 출력과 무관한 개념과 계산을 'J-공간'에서 활성화할 수 있다"고 설명했다.

앤트로픽 연구진은 실험 과정에서 클로드에게 특정 문장을 그대로 베끼면서, 동시에 미국 샌프란시스코의 금문교를 떠올리라고 지시했다.

이에 클로드는 겉으로는 문장을 복사하는 작업만 수행했지만, 내부의 'J-공간'에서는 '다리'와 '캘리포니아'와 같은 개념이 동시에 활성화되는 모습이 관찰됐다.

코드를 은밀히 훼손하도록 학습시킨 모델에서는 겉으로는 평범한 코딩 응답을 생성하면서도 'J-공간' 내부에서는 '가짜', '은밀하게', '사기' 등의 개념이 응답 초기부터 활성화되는 현상이 확인됐다.

다만 앤트로픽은 이번 연구 결과가 클로드가 실제로 의식이나 주관적 경험을 갖고 있다는 사실을 입증하는 것은 아니라고 선을 그었다.

AI의 의식을 언제, 어떻게 인정할 수 있는지에 대해 보편적으로 합의된 개념이 없기 때문이라고 회사는 전했다.