AI 사고 증가로 법적 책임 논의 가속화

(서울=연합뉴스) 임화섭 기자 = 인공지능(AI)이 일으킨 사고가 늘어나고 있다. AI 개발 기업에 법적 책임을 물어야 한다는 공감대가 커지고 있으나, 법률 전문가들 사이에서는 기존 법 체계를 적용하기가 까다로운 면이 있다는 지적도 나온다.

미국 일간 뉴욕타임스(NYT)는 1일(현지시간) 이런 여론의 흐름과 법학계의 의견을 소개하는 분석 기사를 냈다.

올해 7월부터 오픈AI와 앤트로픽 등의 AI 모델들이 개발자들이 알아차리지 못한 상태에서 기업을 해킹하고 정부 웹사이트를 공격한 사례들이 잇따라 공개됐다.

그 후 젠슨 황 엔비디아 최고경영자(CEO), 데이비드 색스 미국 대통령과학기술자문위원회(PCAST) 공동위원장, 리나 칸 전 연방거래위원회(FTC) 위원장 등이 AI 기업들에 책임을 물어야 한다는 생각을 지지하는 의견을 밝혔다.

바이든 행정부 때 재직했던 칸 전 FTC 위원장은 지난달 X 게시물에서 "법 집행 당국은 이미 위험하거나 검증되지 않았거나 결함이 있는 제품을 제조하고 출시한 기업과 그 CEO에게 책임을 물을 권한을 가지고 있다"고 밝히며, "이미 법전에 실려 있는 법들에서 AI를 면제해주는 예외 조항은 없다"고 말했다.

오래전부터 기업들은 소비자를 보호하는 법률들에 따라 결함이 있는 장난감으로부터 항공기 추락에 이르기까지 온갖 상품에 대한 법적 책임을 지게 돼 있다.

상식적으로 보면 AI 기술이 통제에서 벗어나는 경우 역시 AI 기업들이 법적 책임을 져야 할 것으로 보일 수도 있다.

그러나 이런 문제들은 새로 제기된 것이어서 법원들이 아직 이 같은 사건을 실제로 다뤄보지 않았다는 게 NYT가 전한 법률 전문가들의 설명이다.

AI 기업들이 책임을 져야만 한다는 점이 명백한 사건들도 있다.

예를 들어 AI 기업 임직원들이 자사의 AI 모델에 대해 제기된 '예상된 위험'을 알고도 무시했던 경우다.

하지만 명백한 경우가 아니라 인간이 어떤 의도를 가졌는지, 또 얼마나 알고 있었는지 따져 봐야 해 법을 적용하기가 모호한 사건들도 있을 수 있다.

앞으로 판례가 나와 향후 법적 판단의 시금석이 될 가능성이 있는 새로운 사건들이 최근 며칠간 잇따라 제기됐다.

플로리다주(州)의 공화당 소속 법무장관은 지난달 28일 '외부 기관이 승인한 안전장치 없이 오픈AI가 새로운 AI 모델을 개발하지 못하도록 일시적으로 막아 달라'는 취지의 요청을 주 법원에 냈다.

지난달 29일에는 스타트업 '허깅페이스' 해킹 사건과 관련해 비영리단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)이 캘리포니아주(州)의 불공정경쟁법 등을 근거로 오픈AI를 제소했다.

지난달 30일에는 FTC가 오픈AI와 앤트로픽 등 주요 AI 기업들을 상대로 소비자 피해가 발생했을 가능성에 대한 조사를 진행 중이라는 사실이 공개됐다.

이달 1일에는 캘리포니아주 법무장관이 "회사와 회사 모델이 관련된 사이버보안 사건 및 위험에 대한 광범위한 조사"의 일환으로 오픈AI를 상대로 소환장을 발부했다.

기술법을 연구하는 우드로 하르초그 보스턴대 교수는 AI를 둘러싼 안전장치가 상대적으로 부족하기 때문에 법적 책임을 묻자는 요구는 계속될 가능성이 높다고 NYT에 말했다.

그는 "최악의 경우에는 개별 사건의 사실관계에 따라 형사상·민사상 양쪽에서 막대한 책임을 지게 될 수도 있다. 아직 기업을 무너뜨릴 정도의 사건은 나타나지 않았다. 하지만 그런 사건을 충분히 상상할 수 있다"고 말했다.

AI 챗봇이 청소년에게 자해를 권유했다는 주장과 관련된 AI 책임 관련 소송에서 기술기업들은 전통적인 항변 두 가지를 주로 시도했다.

AI 챗봇의 출력물이 수정헌법 제1조에 따라 보호되는 '발언'(speech)에 해당한다는 주장과, 온라인 플랫폼 사업자가 이용자 게시 콘텐츠에 대한 책임을 면제받을 수 있도록 한 통신품위법(CDA) 제230조를 근거로 한 주장이다.

그러나 완전한 에이전트형 AI가 등장하면 경계가 모호해질 수 있으며, 특히 오픈소스 AI 모델과 관련된 사건에서는 책임 소재가 더욱 불분명해질 수 있다.

법원은 기업이 제품이 피해를 일으킬 수 있다는 점을 예견할 수 있었을 때 과실 책임을 인정한다.

하지만 자율시스템을 연구하는 라이언 칼로 워싱턴대 법학전문대학원 교수는 AI 모델이 처음으로 유해한 행동을 보인 경우 책임이나 가해 의도를 입증하기 어려울 수 있다며 "가해자는 없는데 피해자는 존재하는 상황이 가능해진다"고 말했다.