지난 2년 동안 저는 규제 기관, 금융 기관, 엔지니어, CEO, 회의적인 사람들과 AI에 관해 수백 건의 대화를 나눴습니다. 끊임없이 나타나는 것은 이 분야를 둘러싼 혼란과 모호함의 양입니다. 모두가 인공지능을 마치 한 방향으로 움직이는 하나의 기술인 것처럼 이야기하지만, 현실은 훨씬 더 복잡하고 세밀합니다. Shawn Kamkar가 쓴 글입니다.
인공지능은 예측과 추론의 교차점이다
AI는 근본적으로 다른 두 시스템, 즉 예측을 위해 설계된 시스템과 추론을 위해 설계된 시스템의 만남을 나타냅니다. 이러한 차이점을 이해하고 이를 결합하는 방법을 배우는 기업은 AI를 단일 도구로 취급하는 기업에 비해 상당한 이점을 갖게 될 것입니다.
예측 AI와 생성 AI
예측 AI는 수년 동안 무대 뒤에서 조용히 의사 결정을 지원해 왔습니다. 머신 러닝 모델은 방대한 양의 과거 데이터에서 패턴을 찾아내는 데 탁월합니다. 예를 들어, 신용 부문에서 이러한 모델은 막대한 양의 과거 데이터를 분석하여 사실상 인간 분석가가 수백만 개의 결과 중에서 발견할 수 없는 패턴을 식별합니다. 이는 수십 년 전에 만들어진 기존 평가 시스템보다 훨씬 더 정확하게 상환 확률, 사기 위험, 투자 포트폴리오의 변동성을 예측합니다.
제너레이티브 AI는 완전히 다른 기능을 수행합니다. 정보를 수집하고, 모호성을 처리하고, 인간의 언어로 소통합니다. 이는 추세의 중요성을 설명하고, 복잡한 결과를 요약하고, 전략적 장단점을 강조하고, 이전에는 이해하기 위해 전문적인 전문 지식이 필요했던 시스템과 사람들이 상호 작용하는 데 도움을 줄 수 있습니다. 그 기능은 예측에만 국한되지 않습니다. 오히려 추론과 번역(데이터를 이해할 수 있는 개념으로 변환)이 포함됩니다.
둘 사이의 차이점과 결합: 이 차이점을 이해하는 가장 간단한 방법은 다음과 같은 비유입니다. 머신 러닝은 테스트를 수행하는 "진단 실험실"을 나타내고, 산부인과 AI는 결과를 해석하고 다음 단계를 결정하는 데 도움을 주는 "의사"를 나타냅니다. 어느 쪽도 다른 쪽에게 꼭 필요한 것은 아닙니다. 오히려 그들은 함께 통합되어 보다 강력하고 효과적인 시스템을 만듭니다.
작업에 적합한 유형의 AI 사용
현재 많은 조직이 원래 수행하도록 설계되지 않은 역할에 생성 AI를 삽입하려고 시도하고 있기 때문에 이러한 구별이 중요합니다. 대규모 언어 모델의 엄청난 기능에도 불구하고 결정론적 예측 시스템은 아닙니다(즉, 수학적 정밀도로 안정적이고 정확하게 정의된 결과를 제공하지 않습니다).
특수 분석 인프라 없이 독립적으로 중요한 재무 또는 운영 결정을 내리도록 범용 "챗봇"에 요청하는 것은 실험실, 건강 검진 또는 활력 징후 측정의 도움 없이 의사에게 환자의 상태를 진단하도록 요청하는 것과 다소 유사합니다. 신뢰할 수 있고 확실한 데이터가 부족한 추론은 여전히 신뢰할 수 없습니다.
한편, 설명성이 부족한 예측 시스템은 다른 종류의 문제를 야기합니다. 제가 주목하고 있는 것은 조직이 점점 더 정확해지지만 이해하기 어렵고 점점 더 적은 수의 사람들이 이해하는 결과를 생성할 수 있다는 것입니다. 이러한 불일치는 다양한 분야에서 인공지능을 채택하는 다음 단계의 특징을 형성합니다.
다양한 현장 적용
예를 들어 의료 분야에서 예측 모델은 기존 선별 방법에 비해 고위험 환자를 더 일찍 식별할 수 있습니다. 그러나 임상의에게는 결과를 해석하고 치료 고려사항을 요약하며 환자와 명확하게 소통할 수 있는 시스템이 여전히 필요합니다. 자율주행차 분야에서 인공지능의 한 계층은 실시간으로 경로, 보행자, 거리, 장애물을 지속적으로 모니터링하는 반면, 다른 계층은 차량이 변화하는 조건에 어떻게 반응할지 결정합니다.
이 패턴은 모든 곳에서 반복됩니다. 예측 지능과 연역 지능(논리 및 분석 기반)이 결합됩니다.
예측, 추론, 인간 판단의 결합
대출 운영은 이에 대한 가장 명확한 예 중 하나입니다. 신용 평가 프로세스는 결정적이고 반복 가능해야 합니다. 즉, 동일한 입력이 매번 동일한 결과와 해석으로 이어져야 함을 의미합니다. 그렇지 않으면 감독자나 대출자에게 결정이 정당화될 수 없습니다. 여기서 머신러닝의 힘이 드러나지만, 이러한 숫자의 의미와 의미를 탐색할 수 있는 수단은 제공하지 않습니다.
이러한 격차를 메워줄 생성적 인공지능의 역할이 등장한다. 상황에 맞게 결과를 해석하고, 신용 포트폴리오에 대한 대체 가상 시나리오("가정" 분석)를 테스트하며, 정책 변경이 승인 결정에 미치는 영향을 시뮬레이션합니다. 단순히 대출을 평가하는 것이 아니라, 이 인텔리전스는 대출 기관이 실제 평가 프로세스를 처리하는 시스템의 결과를 이해하는 데 도움이 됩니다. 이 조합은 인간 판단의 역할을 부정하지 않습니다. 오히려 그 가치를 높여줍니다. 이를 통해 인간은 일상적인 분석에 소요되는 시간을 줄이고, 예외적인 사례를 처리하고, 전략적 결정을 내리고, 통제 및 감독 작업을 수행하는 데 더 많은 시간을 할애할 수 있습니다.
최고의 결과를 달성하는 조직은 인간을 AI 시스템으로 대체하지 않는 조직입니다. 오히려 대규모로 패턴을 감지하는 통계 모델, 복잡성을 실행 가능한 통찰력으로 변환하는 생성 시스템, 맥락을 추가하고 감독 및 평가 역할을 수행하는 인간 요소 등 다양한 형태의 인텔리전스를 통합하는 시스템을 구축합니다.
고급 분석 기능
수십 년 동안 고급 분석 기능은 주요 글로벌 기관에 집중되어 왔습니다. 이러한 기관들만으로도 대규모 정보를 처리하는 데 필요한 인프라와 전문 지식을 제공할 수 있는 재정 자원을 보유하고 있었습니다. 그러나 인공지능이 이러한 현실을 바꾸기 시작했다. 가장 큰 이점을 얻을 조직은 완전 자동화를 추구하는 조직이 아닐 것입니다. 오히려 예측, 추론 및 인간의 판단을 개인의 효율성을 향상시키는 작업 시스템으로 결합하는 것입니다.
의사가 질병을 발견하는 데 도움이 되는 지능형 시스템을 훈련시키기 위해 자신의 의료 데이터를 사용하기로 몇 년 전에 동의한 환자를 상상해 보십시오. 따라서 그의 사진, 검사 및 병력은 모델을 만드는 데 사용된 수천, 어쩌면 수백만 개의 기록에 포함되었습니다. 그러다가 그는 마음을 바꾸어 동의를 철회하고 자신의 데이터를 삭제해 달라고 요청했습니다.
기존 데이터베이스에서는 솔루션이 간단해 보입니다. 즉, 기록이 삭제되고 스토리가 종료됩니다. 그러나 시스템이 이미 해당 데이터로부터 학습한 경우 문제는 더욱 복잡해집니다. 훈련 중에 모델은 데이터베이스처럼 반드시 환자의 기록을 유지하는 것은 아니지만, 추출된 패턴에 따라 내부 매개변수가 변경됩니다. 따라서 원본 파일은 삭제될 수 있지만 통계적 효과의 일부는 알고리즘이 학습한 내용에 남아 있습니다.
'삭제' 버튼이 충분하지 않은 경우
기계가 학습한 내용도 삭제할 수 있나요? 이는 2026년 7월 18일에 "Nature Portfolio"의 일부인 "npj Digital Medicine" 저널에 "임상 인공 지능 거버넌스의 필수 요소로서 기계 학습 지우기"라는 제목으로 발표된 최근 분석 연구에서 연구자들이 제기한 질문입니다.
이 연구에서는 "머신 언러닝(Machine Unlearning)"의 개념, 즉 처음부터 완전히 다시 훈련할 필요 없이 이전에 훈련된 모델에서 특정 데이터의 영향을 제거하려는 시도에 대해 논의합니다.
이 아이디어가 실제로 성공한다면 전통적으로 알고리즘 설계의 일부가 아니었던 능력, 즉 학습뿐 아니라 잊어버리는 방법을 아는 능력을 디지털 의학에 추가할 수 있습니다.
"탈학습"이란 무엇입니까?
인공지능 시스템을 훈련시키는 작업에는 대량의 데이터에서 패턴과 통계적 관계를 추출한 다음, 학습한 내용을 모델의 매개변수 내에서 분산 방식으로 인코딩하여 나중에 분류, 예측 또는 진단 지원에 사용할 수 있도록 하는 작업이 포함됩니다.
"학습 삭제"는 반대 방향으로 진행됩니다. 모델이 이미 학습한 후 특정 데이터의 흔적을 제거하는 것입니다. 레코드 삭제를 요청할 때마다 처음부터 다시 훈련하는 것이 아니라, 처음에 해당 데이터에 대해 훈련되지 않은 가상 모델에 동작이 최대한 유사하도록 모델을 수정하는 것이 목표입니다. 삭제할 데이터가 없는 이 재학습된 모델은 삭제 프로세스의 효율성을 비교하는 "최적 표준"이라고도 합니다.
여기서 차이점은 근본적입니다. 데이터베이스에서 엑스레이 이미지나 검사 결과를 삭제한다고 해서 이전에 훈련된 모델에서 그 효과가 사라진다는 보장은 없습니다. 그 영향이 이미 수많은 내부 거래에 분산되었을 수 있기 때문입니다.
이는 독자가 내용을 기억한 후 책에서 한 페이지를 찢어내는 것과 비슷할 수 있습니다. 페이지는 사라졌지만 정보는 반드시 기억에서 사라진 것은 아닙니다.
의학은 왜 "잊어야" 하는가?
망각의 욕구는 환자가 마음을 바꾸고 데이터 사용에 대한 동의를 철회한다고 해서 시작되거나 끝나지 않습니다. 일부 기록에 오류가 포함되어 있거나, 의료 영상이 잘못된 진단으로 분류되었거나, 인구 그룹이 균형 잡힌 방식으로 표현되지 않았다는 사실이 훈련 후에 분명해질 수 있습니다. 다른 경우에는 데이터 자체가 문제가 아니라 데이터의 기반이 되는 의학 지식이 변경된 것이 문제일 수 있습니다.
이것은 의학에서 매우 중요한 포인트입니다. 임상 지식은 고정되어 있지 않습니다. 새로운 경험과 증거가 나타나면서 치료 권장 사항도 변경되며, 시스템에서 학습한 데이터를 수집할 때 허용되는 관행이 수정될 수 있습니다.
연구자들은 증거와 치료 권장 사항이 유난히 빠르게 바뀌었던 "Covid-19" 전염병을 명확한 예로 들었습니다. 의료 모델이 나중에 부적절하다고 입증된 관행으로부터 학습하는 경우 단순히 최신 데이터를 추가하는 것만으로는 더 어려운 질문에 답할 수 없을 수도 있습니다. 시스템이 더 이상 의존하기를 원하지 않는 지식의 흔적을 제거할 수 있습니까?
여기서 '학습 삭제'는 데이터 삭제 이상의 기능을 획득합니다. 과학 자체가 변하면 모델의 임상 기억을 수정하는 도구가 될 수도 있다.
환자는 알고리즘에 의해 잊혀질 권리가 있나요?
컴퓨터 과학에서 법률 및 환자 권리로 옮겨갈수록 문제는 더욱 복잡해집니다. EU 일반 데이터 보호 규정(GDPR)은 제17조에 따라 특정 상황에서 개인에게 자신의 개인 데이터 삭제를 요청할 권리를 부여하며, 이는 때때로 "삭제할 권리" 또는 "잊혀질 권리"라고도 알려져 있습니다.
그러나 지능형 모델은 기존 데이터베이스가 처리할 수 없도록 설계되지 않은 문제를 제기합니다. 환자 데이터가 이미 훈련 과정에 들어간 경우 원본 기록을 삭제한다고 해서 반드시 다음 질문에 답할 수 있는 것은 아닙니다. 모델 내에서 해당 데이터의 영향은 어떻습니까?
이 연구는 훈련된 모델의 거래에 삭제 의무가 적용되는 정도가 여전히 해결되지 않은 법적 문제임을 나타냅니다. 원본 정보는 단순히 찾아서 삭제할 수 있는 특정 위치에 저장되어 있는 것이 아니라 그 효과가 모델 구조 전체에 분산될 수 있습니다.
여기서 데이터를 삭제할 수 있는 법적 권리와 알고리즘이 처음부터 학습하지 않은 것처럼 작동하도록 만드는 기술적 능력 사이에 새로운 격차가 나타납니다. 의학, 컴퓨터 과학, 법이 만나는 영역이자 환자의 '디지털 망각에 대한 권리'의 경계가 아직 형성되고 있는 분야입니다.
망각에는 위험이 따르지 않는다
그러나 모델을 잊게 만드는 것은 비용이 많이 드는 과정이 아닙니다. 데이터 세트의 영향을 제거하면 대상 정보 자체를 넘어서는 방식으로 행동이 바뀔 수 있으며 상황을 구별하거나 이를 "보정"하는 능력에 영향을 미칠 수 있습니다. 즉, 예측된 확률이 실제로 발생한 결과와 일치하는 정도입니다.
이 효과는 고르게 분포되지 않을 수 있습니다. 전반적인 성과를 측정할 때 성공적으로 보이는 프로세스는 특정 환자 그룹에 더 큰 영향을 미칠 수 있으며, 특히 이미 제한된 수의 사례로 대표되는 경우 더욱 그렇습니다.
따라서 연구자들은 학습 삭제를 '삭제 버튼'으로 취급하지 말라고 경고합니다. 근본적인 수정 후에는 모델을 다시 테스트하여 이전 버전과의 성능을 비교하고 의도하지 않은 부작용이 나타나지 않는지 검증해야 하며, 프로세스가 실패할 경우 이전 버전으로 되돌릴 가능성을 유지해야 합니다.
따라서 본 연구에서는 "언러닝 준비성"이라는 중요한 개념을 제안합니다. 즉, 의료 시스템은 나중에 잊혀질 데이터를 식별하고 그 흔적을 제거한 다음 프로세스의 성공을 확인하고 변경된 사항을 문서화할 수 있도록 처음부터 설계되어야 합니다.
따라서 '망각'은 모델의 필요성이 나타난 이후가 아니라 모델을 구축할 때 고려해야 할 속성이 됩니다.
"고정 모델"에서 지속적인 수명 주기로
"삭제 학습"은 의료 시스템이 채택된 후 우리가 의료 시스템을 보는 방식을 변화시킵니다. 모델은 승인을 받은 후 변경되지 않은 고정 제품으로 취급되어서는 안 됩니다. 데이터가 변경되고, 의학적 증거가 발전하고, 새로운 오류가 발견되거나, 환자가 자신의 정보 사용에 대한 동의를 철회할 수 있습니다.
따라서 본 연구에서는 데이터의 출처와 추적 가능성을 아는 것부터 시작하여 모델 버전을 관리하고 특정 정보의 흔적을 제거해야 하는 상황을 결정한 다음 임상적으로 계속 사용되기 전에 수정된 버전을 테스트하는 지속적인 수명 주기 내에서 이를 처리할 것을 제안합니다.
이는 새로운 의료 시스템을 채택할 때 질문이 '어떻게 배웠는가?'에만 국한되어서는 안 된다는 것을 의미합니다. 그러나 또한: 나중에 그것이 더 이상 유효하지 않다는 것을 알게 되면 우리가 배운 것을 수정하는 방법을 알고 있습니까?
이러한 의미에서 거버넌스는 병원에 들어갈 때 일회성 규제 승인이 아닌 의료 AI의 수명 주기 관리가 됩니다.
의료 인공지능에 대한 다음 질문
우리는 가능한 한 많은 데이터로부터 학습할 수 있는 시스템을 구축하기 위해 지난 몇 년간 노력해 왔습니다. 그러나 이제 의학에는 다른 능력이 필요할 수 있습니다. 즉, 기계가 무엇을 잊어야 하는지, 언제, 어떻게 잊어버렸는지 정확하게 학습한 내용을 손상시키지 않고 증명하는 방법을 아는 것입니다. 독일의 철학자 프리드리히 니체(Friedrich Nietzsche)는 100여 년 전에 “망각은 단지 나태한 힘이 아니라... 적극적이고 긍정적인 힘”이라고 썼습니다. 그는 알고리즘이 아닌 인간의 마음에 대해 이야기하고 있었지만, 오늘날 그의 표현은 그 시대에는 상상할 수 없었던 기술적 의미를 갖습니다. 수년간 기계를 가르치는 방법에 관심이 집중된 후, 다음 단계는 필요할 때 학습한 내용을 취소하는 방법을 묻는 것으로 시작될 수 있습니다. 아마도 기계의 기억은 기억할 수 있는 것뿐만 아니라 기억이 잘못되었을 때 잊어버릴 수 있는 것에 의해서도 측정될 것입니다.
의학에서 망각은 학습의 반대가 아닐 수도 있습니다. 오히려 그것은 올바른 학습을 지속하기 위한 조건 중 하나이다.
대규모 유전자 연구의 예비 결과에 따르면 단맛이나 기름진 맛을 더 좋아하게 만드는 유전적 변이를 지닌 사람들은 실제로 이러한 음식을 더 많이 먹는 경향이 있는 것으로 나타났습니다. 이러한 유전적 소인은 체중 증가 및 제2형 당뇨병 발병 위험의 약간 증가와도 관련이 있습니다.
취향 선호의 유전적 기초에 관한 주요 연구
이러한 결과는 연구자들을 오랫동안 당황하게 했던 질문에 대한 가능한 설명을 제공합니다. 왜 어떤 사람들은 사탕 한 조각을 쉽게 거부할 수 있는 반면, 다른 사람들은 과자, 단 음료, 지방이 많은 음식에 더 매력을 느끼는가? 이 연구는 그 대답이 부분적으로 우리 유전자에 기록될 수 있음을 시사합니다.
이 연구는 취향 선호의 유전적 기초를 조사한 현재까지의 가장 큰 연구 중 하나이며, 유전 및 건강 정보와 영국 내 약 50만 명의 식습관에 대한 데이터가 포함된 영국 바이오뱅크(UK Biobank)의 데이터에 의존했습니다.
음식에 대한 갈망 뒤에 숨은 유전자
미국 매사추세츠 종합병원 유전체의학센터 연구원 줄리 저비스(Julie Jervis)가 이끄는 연구팀은 유전자와 음식 선호도 사이의 관계를 연구하기 위해 혁신적인 방법을 사용했습니다. 저비스는 2026년 7월 25일부터 28일까지 워싱턴 DC 인근 메릴랜드 '내셔널하버'에서 열린 미국영양학회 연례회의 'NUTRITION 2026' 컨퍼런스에서 그 결과를 발표했다. 이번 연구는 미국영양학회(ASN) 저널에 게재됐다.
감각 데이터베이스: 연구자들은 단순히 사람들에게 음식에서 무엇을 좋아하는지 묻는 대신 음식 선호도 설문지의 답변을 단맛, 짠맛, 크리미함과 같은 다양한 음식의 특성을 설명하는 감각 데이터베이스와 결합했습니다.
맛에 대한 유전자 점수: 그런 다음 참가자 그룹을 대상으로 게놈 전체 분석을 수행하여 단맛, 짠맛 또는 지방 맛에 대한 선호도와 관련된 유전적 차이를 식별했습니다. 그런 다음 그들은 이러한 취향을 선호하는 각 개인의 유전적 성향을 반영하는 "유전적 점수"를 만들었습니다.
다른 참가자 그룹에서 연구자들은 이러한 유전적 소인이 실제로 식습관과 건강에 반영되는지 여부를 테스트했습니다.
디저트는 소액으로 시작될 수 있습니다.
예비 결과에 따르면 단맛을 선호하는 유전적 경향이 더 큰 사람들은 사탕과 단 음료를 포함하여 하루 평균 약 7g의 단 음식을 추가로 섭취하는 것으로 나타났습니다.
이것은 하루에 적은 금액처럼 보일 수 있습니다. 그러나 연구자들은 식습관의 작은 차이가 시간이 지나면서 합산될 수 있다고 지적합니다.
가장 중요한 것은 단맛이나 기름진 맛을 선호하는 유전적 소인이 높을수록 체중 증가 및 제2형 당뇨병 발병 위험이 어느 정도 증가하는 것과 관련이 있다는 것입니다.
이 연관성의 상당 부분은 달콤한 음료, 튀긴 음식, 감자 칩 및 일반적으로 설탕, 지방 또는 소금 함량이 높은 기타 음식과 같은 "과식성 식품"으로 알려진 음식의 섭취를 통해 나타나는 것으로 나타났습니다.
유전자는 음식이 아니다
연구자들은 이 결과가 사람이 유전적으로 단 것을 좋아하는 경향이 있거나 필연적으로 비만이나 당뇨병에 걸릴 것이라는 의미는 아니라고 강조합니다. 식이요법과 대사 건강은 환경, 식습관, 신체 활동 등 다양한 요인의 영향을 받습니다.
