Sztuczna inteligencja: przewidywanie, wnioskowanie i koncepcja „wymazywania uczenia się” w medycynie

W ciągu ostatnich dwóch lat odbyłem setki rozmów na temat sztucznej inteligencji z organami regulacyjnymi, instytucjami finansowymi, inżynierami, dyrektorami generalnymi i osobami sceptycznymi. To, co stale się wyłania, to ilość zamieszania i niejasności wokół tej dziedziny. Wszyscy mówią o sztucznej inteligencji, jakby to była jedna technologia, która zmierza w jednym kierunku, podczas gdy rzeczywistość jest znacznie bardziej złożona i szczegółowa. Jak napisał Shawn Kamkar.

Sztuczna inteligencja to skrzyżowanie przewidywania i rozumowania

Sztuczna inteligencja stanowi miejsce spotkania dwóch zasadniczo różnych systemów: jednego zaprojektowanego do przewidywania, drugiego do rozumowania. Firmy, które zrozumieją tę różnicę i nauczą się je łączyć, będą miały znaczną przewagę nad firmami, które traktują sztuczną inteligencję jako narzędzie monolityczne.

Predykcyjna sztuczna inteligencja a generatywna sztuczna inteligencja

Predykcyjna sztuczna inteligencja od wielu lat wspiera proces decyzyjny po cichu i za kulisami; Modele uczenia maszynowego doskonale potrafią wykrywać wzorce w ogromnych ilościach danych historycznych. Na przykład w sektorze kredytowym modele te analizują ogromne ilości danych historycznych w celu zidentyfikowania wzorców, których praktycznie żaden analityk nie jest w stanie dostrzec wśród milionów wyników; Przewiduje prawdopodobieństwo spłaty, ryzyko oszustwa i zmienność portfela inwestycyjnego znacznie dokładniej niż tradycyjne systemy wyceny stworzone kilkadziesiąt lat temu.

Generatywna sztuczna inteligencja pełni zupełnie inną funkcję: zbiera informacje, radzi sobie z niejednoznacznościami i komunikuje się ludzkim językiem. Może wyjaśnić znaczenie trendu, podsumować złożone wyniki, podkreślić strategiczne kompromisy i pomóc ludziom w interakcji z systemami, których zrozumienie wcześniej wymagało specjalistycznej wiedzy. Jego funkcja nie ogranicza się jedynie do przewidywania; Obejmuje raczej wnioskowanie i tłumaczenie (przekształcanie danych w zrozumiałe koncepcje).

Różnica i połączenie między nimi: Najprostszym sposobem zrozumienia tej różnicy jest następująca analogia: uczenie maszynowe reprezentuje „laboratorium diagnostyczne”, które wykonuje testy, podczas gdy sztuczna inteligencja położnicza reprezentuje „lekarza”, który pomaga zinterpretować wyniki i określić kolejny krok. Żadne z nich nie jest niezbędne drugiemu; Raczej integrują się ze sobą, tworząc potężniejszy i skuteczniejszy system.

Użyj odpowiedniego rodzaju sztucznej inteligencji do zadania

To rozróżnienie jest ważne, ponieważ wiele organizacji próbuje obecnie zastosować generatywną sztuczną inteligencję w rolach, do których pierwotnie nie została zaprojektowana. Pomimo ogromnych możliwości dużych modeli językowych, nie są one deterministycznymi systemami predykcyjnymi (tj. nie dają stabilnych i precyzyjnie określonych wyników z matematyczną precyzją).

Zwrócenie się do „chatbota” ogólnego przeznaczenia o samodzielne podejmowanie kluczowych decyzji finansowych lub operacyjnych – bez wspierającej ją specjalistycznej infrastruktury analitycznej – przypomina nieco poproszenie lekarza o zdiagnozowanie stanu pacjenta bez pomocy laboratoriów, badań lekarskich czy pomiaru parametrów życiowych. Rozumowanie pozbawione wiarygodnych i solidnych danych pozostaje niewiarygodne.

Tymczasem systemy przewidywania, którym brakuje możliwości wyjaśnienia, stwarzają problem innego rodzaju. Zauważam, że organizacje są w stanie generować wyniki, które są coraz dokładniejsze, ale trudne do zrozumienia i zrozumiałe dla coraz mniejszej liczby osób. Ta rozbieżność kształtuje cechy kolejnej fazy wdrażania sztucznej inteligencji w różnych sektorach.

Różne zastosowania terenowe

Na przykład w opiece zdrowotnej modele prognostyczne umożliwiają wcześniejszą identyfikację pacjentów wysokiego ryzyka w porównaniu z tradycyjnymi metodami badań przesiewowych. Jednak klinicyści nadal potrzebują systemów zdolnych do interpretacji wyników, podsumowywania rozważań terapeutycznych i jasnej komunikacji z pacjentami. W obszarze pojazdów autonomicznych jedna warstwa sztucznej inteligencji stale monitoruje w czasie rzeczywistym ścieżki, pieszych, odległości i przeszkody, natomiast druga warstwa określa, jak pojazd będzie reagował na zmieniające się warunki.

Ten schemat powtarza się wszędzie: inteligencja predykcyjna połączona z inteligencją dedukcyjną (opartą na logice i analizie).

Łączenie przewidywania, wnioskowania... i ludzkiego osądu

Operacje pożyczkowe są jednym z najwyraźniejszych tego przykładów; Proces oceny kredytowej musi być deterministyczny i powtarzalny – co oznacza, że ​​te same dane wejściowe muszą za każdym razem prowadzić do tego samego wyniku i interpretacji – w przeciwnym razie decyzja nie będzie uzasadniona dla organów nadzoru ani kredytobiorców. Tutaj ujawnia się siła uczenia maszynowego, ale nie zapewnia ona możliwości badania konotacji tych liczb i ich znaczeń.

Oto rola generatywnej sztucznej inteligencji, która ma wypełnić tę lukę. Interpretuje wyniki w kontekście, testuje alternatywne hipotetyczne scenariusze („analiza „co jeśli”) na portfelach kredytowych i symuluje wpływ zmian polityki na decyzje o zatwierdzeniu. Zamiast po prostu oceniać pożyczki, ta inteligencja pomaga pożyczkodawcom zrozumieć wyniki systemów obsługujących rzeczywisty proces oceny. To połączenie nie neguje roli ludzkiego osądu; Raczej zwiększa jego wartość; Dzięki temu ludzie mogą poświęcić mniej czasu na rutynowe analizy, a więcej na radzenie sobie z wyjątkowymi przypadkami, podejmowanie strategicznych decyzji oraz wykonywanie zadań związanych z kontrolą i nadzorem.

Organizacje, które osiągają najlepsze wyniki to te, które nie zastępują ludzi systemami AI; Tworzą raczej systemy integrujące różne formy inteligencji: modele statystyczne wykrywające wzorce na dużą skalę, systemy generatywne, które przekształcają złożoność w przydatne spostrzeżenia, oraz element ludzki, który dodaje kontekst i odgrywa rolę nadzoru i oceny.

Zaawansowane możliwości analizy

Przez dziesięciolecia zaawansowane możliwości analityczne skupiały się w głównych instytucjach światowych; Same te instytucje posiadały zasoby finansowe, aby zapewnić infrastrukturę i wiedzę specjalistyczną niezbędną do przetwarzania informacji na dużą skalę. Sztuczna inteligencja zaczyna jednak zmieniać tę rzeczywistość. Organizacje, które odniosą największe korzyści, nie będą tymi, które dążą do pełnej automatyzacji; Raczej takie, które łączą przewidywanie, rozumowanie i ludzki osąd w systemy pracy, które zwiększają efektywność jednostek.

Wyobraźmy sobie pacjenta, który wiele lat temu zgodził się na wykorzystanie swoich danych medycznych do szkolenia inteligentnego systemu pomagającego lekarzom wykrywać choroby. W ten sposób jego zdjęcia, badania i historia medyczna znalazły się w tysiącach, a może milionach zapisów wykorzystanych do zbudowania modelu. Następnie zmienił zdanie i poprosił o wycofanie zgody i usunięcie swoich danych.

W tradycyjnej bazie rozwiązanie wydaje się proste: rekord zostaje usunięty i historia się kończy. Jednak problem staje się bardziej złożony, gdy system nauczył się już na podstawie tych danych; Podczas szkolenia model niekoniecznie przechowuje dane pacjenta tak jak baza danych, ale raczej jego wewnętrzne parametry zmieniają się w oparciu o wyodrębnione wzorce. W ten sposób oryginalny plik może zostać usunięty, a część efektu statystycznego pozostanie w tym, czego nauczył się algorytm.

Gdy przycisk „Usuń” nie wystarczy

Czy to, czego nauczyła się maszyna, również można usunąć? Takie pytanie zadają badacze w niedawnym badaniu analitycznym opublikowanym 18 lipca 2026 r. w czasopiśmie „npj Digital Medicine”, należącym do „Nature Portfolio”, zatytułowanym „Erasing machine learning as a koniecznością dla zarządzania kliniczną sztuczną inteligencją”.

W opracowaniu omówiono koncepcję „Machine Unlearning”, czyli próbę usunięcia wpływu określonych danych z wcześniej wytrenowanego modelu, bez konieczności konieczności jego przeuczania całkowicie od zera.

Jeśli pomysł ten odniesie sukces w praktyce, może dodać do medycyny cyfrowej zdolność, która tradycyjnie nie była częścią projektowania algorytmów: nie tylko uczyć się, ale także wiedzieć, jak zapomnieć.

Co to jest „oduczenie się”?

Szkolenie systemów sztucznej inteligencji polega na wydobywaniu wzorców i zależności statystycznych z dużych ilości danych, a następnie kodowaniu tego, czego się nauczyły, w sposób rozproszony w ramach parametrów modelu, tak aby można je było później wykorzystać w klasyfikacji, predykcji czy wspomaganiu diagnozy.

„Usuń naukę” próbuje pójść w odwrotnym kierunku: usunąć ślad pewnych danych, gdy model już się z nich nauczył. Celem, zamiast ponownego uczenia się od zera za każdym razem, gdy żąda się usunięcia rekordu, jest zmodyfikowanie modelu w taki sposób, aby jego zachowanie było jak najbardziej zbliżone do modelu hipotetycznego, który nie był przede wszystkim szkolony na tych danych. Ten przeszkolony model bez danych do usunięcia jest czasami nazywany „złotym standardem”, z którym porównuje się skuteczność procesu usuwania.

Różnica jest tutaj zasadnicza; Usunięcie zdjęcia RTG lub wyniku badania z bazy nie gwarantuje, że jego efekt zniknie z wcześniej wyszkolonego na nim modelu. Ponieważ jego wpływ mógł już zostać rozłożony na dużą liczbę transakcji wewnętrznych.

Można to porównać do wyrywania strony z książki po tym, jak czytelnik zapamiętał jej treść: strona zniknęła, ale informacje niekoniecznie zniknęły z pamięci.

Dlaczego medycyna musi „zapomnieć”?

Potrzeba zapomnienia nie rozpoczyna się ani nie kończy w momencie zmiany decyzji przez pacjenta i wycofania zgody na wykorzystanie jego danych; Po szkoleniu może stać się jasne, że niektóre zapisy zawierały błędy, że obrazy medyczne zostały sklasyfikowane z błędną diagnozą lub że grupa populacji nie była reprezentowana w sposób zrównoważony. W innych przypadkach problemem mogą nie być same dane, ale raczej to, że zmieniła się wiedza medyczna, na której je oparto.

To bardzo ważny punkt w medycynie. Wiedza kliniczna nie jest statyczna. Zalecenia dotyczące leczenia również zmieniają się w miarę pojawiania się nowych doświadczeń i dowodów, a praktyki, które były akceptowalne w momencie zbierania danych, na podstawie których zbierano dane w systemie, mogą zostać zweryfikowane.

Naukowcy podają pandemię „Covid-19” jako wyraźny przykład, kiedy dowody i zalecenia dotyczące leczenia zmieniły się wyjątkowo szybko. Jeśli model medyczny uczy się na praktykach, które później okazują się niewłaściwe, samo dodanie nowszych danych nie zawsze może odpowiedzieć na trudniejsze pytanie: czy możemy usunąć ślad wiedzy, na którym nie chcemy już opierać systemu?

W tym przypadku „uczenie się usuwania” zyskuje funkcję wykraczającą poza usuwanie danych; Może stać się narzędziem korygującym pamięć kliniczną modelu, gdy zmienia się sama nauka.

Czy pacjent ma prawo zostać zapomniany przez algorytm?

Sprawa staje się bardziej złożona, gdy od informatyki przejdziemy do prawa i praw pacjenta; Ogólne rozporządzenie UE o ochronie danych (RODO) przyznaje osobom fizycznym, zgodnie z art. 17 i w określonych okolicznościach, prawo do żądania usunięcia ich danych osobowych, co jest czasami nazywane „prawem do usunięcia” lub „prawem do bycia zapomnianym”.

Jednak inteligentne modele stwarzają problem, do obsługi którego nie zaprojektowano tradycyjnych baz danych; Jeśli dane pacjenta weszły już do procesu uczenia, usunięcie oryginalnego rekordu niekoniecznie odpowiada na inne pytanie: A co z wpływem tych danych na model?

Z badania wynika, że ​​stopień, w jakim obowiązki usuwania danych dotyczą transakcji wytrenowanych modeli, pozostaje nadal nierozwiązanym problemem prawnym. Oryginalna informacja nie może pozostać przechowywana w określonym miejscu, które można po prostu znaleźć i usunąć, ale raczej jej efekt może być rozproszony w całej strukturze modelu.

Tutaj pojawia się nowa rozbieżność pomiędzy prawnym prawem do usunięcia danych a techniczną możliwością spowodowania, aby algorytm zachowywał się tak, jakby w ogóle się z niego nie uczył. To obszar, na którym spotykają się medycyna, informatyka i prawo, a granice „prawa pacjenta do cyfrowego zapomnienia” wciąż kształtują się.

Zapominanie nie jest pozbawione ryzyka

Jednak sprawienie, by model zapomniał, nie jest procesem bezkosztowym; Usunięcie wpływu zbioru danych może zmienić jego zachowanie w sposób wykraczający poza samą informację docelową i może wpłynąć na jego zdolność do rozróżniania sytuacji lub „kalibrowania” ich; Oznacza to stopień, w jakim przewidywane prawdopodobieństwa odpowiadają wynikom, które faktycznie występują.

Efekt ten może nie być równomiernie rozłożony; Proces, który wydaje się skuteczny przy mierzeniu ogólnej wydajności, może mieć większy wpływ na konkretną grupę pacjentów, zwłaszcza jeśli jest już reprezentowany przez ograniczoną liczbę przypadków.

Dlatego badacze przestrzegają przed traktowaniem wymazywania danych jako „przycisku usuwania”. Po każdej zasadniczej modyfikacji należy ponownie przetestować model, porównać jego działanie z wersją poprzednią i sprawdzić, czy nie pojawiają się niezamierzone skutki uboczne, zachowując jednocześnie możliwość powrotu do poprzedniej wersji w przypadku niepowodzenia procesu.

Stąd w opracowaniu zaproponowano ważną koncepcję, jaką jest „gotowość do oduczenia się”, czyli systemy medyczne należy projektować od początku tak, aby później można było zidentyfikować dane, o których należy zapomnieć, usunąć ich ślad, a następnie zweryfikować powodzenie procesu i udokumentować to, co się zmieniło.

Tym samym „zapominanie” staje się cechą, o której należy pomyśleć budując model, a nie wtedy, gdy pojawi się taka potrzeba.

Od „stałego modelu” do ciągłego cyklu życia

„Uczenie się wymazywania” zmienia także sposób, w jaki patrzymy na systemy medyczne po ich przyjęciu; Modelu nie należy traktować jako produktu stałego, który uzyskuje akceptację, a następnie pozostaje niezmieniony; Zmiany danych, ewolucja dowodów medycznych, mogą zostać odkryte nowe błędy, a pacjenci mogą wycofać swoją zgodę na wykorzystanie ich informacji.

Dlatego w badaniu zaproponowano radzenie sobie z nim w ramach ciągłego cyklu życia, który zaczyna się od poznania źródła danych i możliwości ich śledzenia, poprzez zarządzanie wersjami modelu i określenie okoliczności wymagających usunięcia śladu określonych informacji, a następnie przetestowanie zmodyfikowanej wersji przed dalszym zastosowaniem klinicznym.

Oznacza to, że pytanie przy wdrażaniu nowego systemu medycznego nie powinno brzmieć tylko: Jak się uczyłeś? Ale także: Czy wiemy, jak poprawić to, czego się nauczyliśmy, jeśli później odkryjemy, że nie jest to już aktualne?

W tym sensie zarządzanie polega na zarządzaniu cyklem życia medycznej sztucznej inteligencji, a nie na jednorazowym zatwierdzeniu przez organy regulacyjne po wejściu jej do szpitala.

Kolejne pytanie do sztucznej inteligencji medycznej

Ostatnie lata spędziliśmy próbując zbudować systemy, które mogą uczyć się na podstawie jak największej ilości danych. Ale medycyna może teraz potrzebować innej umiejętności: aby maszyna wiedziała, o czym, kiedy i jak zapomnieć, i jak udowodnić, że zapomniała, nie uszkadzając tego, czego nauczyła się prawidłowo. Ponad sto lat temu niemiecki filozof Fryderyk Nietzsche napisał, że „Zapominanie nie jest tylko bierną siłą… ale aktywną i pozytywną siłą”. Mówił o ludzkim umyśle, a nie o algorytmach, ale dziś jego sformułowanie nabiera technicznego znaczenia, które w jego czasach było niewyobrażalne. Po latach, podczas których uwaga skupiała się na tym, jak uczyć maszynę, następny etap może rozpocząć się od zadania pytania, w jaki sposób sprawić, by maszyna cofnęła to, czego się nauczyła, gdy zajdzie taka potrzeba. Być może pamięć maszyny mierzy się nie tylko tym, co może zatrzymać, ale także tym, co może zapomnieć, gdy zapamiętywanie staje się błędne.

W medycynie zapominanie nie może być przeciwieństwem uczenia się; Jest to raczej jeden z warunków kontynuacji prawidłowego uczenia się.

Wstępne wyniki dużego badania genetycznego wykazały, że osoby posiadające zmiany genetyczne zwiększające skłonność do słodkich lub tłustych smaków w rzeczywistości jedzą większe ilości tych produktów. Ta predyspozycja genetyczna wiąże się również ze wzrostem masy ciała i umiarkowanym wzrostem ryzyka zachorowania na cukrzycę typu 2.

Główne badania dotyczące genetycznych podstaw preferencji smakowych

Wyniki te dają możliwe wyjaśnienie pytania, które od dawna nurtuje badaczy: dlaczego niektórzy ludzie z łatwością potrafią oprzeć się kawałkowi cukierka, podczas gdy innych bardziej pociągają słodycze, słodkie napoje i tłuste potrawy? Badanie sugeruje, że odpowiedź może być częściowo zapisana w naszych genach.

Badanie jest jednym z największych jak dotąd badań dotyczących genetycznych podstaw preferencji smakowych i opierało się na danych z brytyjskiego Biobanku, który obejmuje informacje genetyczne i zdrowotne oraz dane dotyczące nawyków żywieniowych około pół miliona osób w Wielkiej Brytanii.

Geny odpowiedzialne za apetyt na jedzenie

Zespół badawczy, kierowany przez Julie Jervis, badaczkę z Centrum Medycyny Genomicznej w Massachusetts General Hospital w Stanach Zjednoczonych, zastosował innowacyjną metodę do badania związku między genami a preferencjami żywieniowymi. Wyniki Jervis przedstawił na konferencji „NUTRITION 2026” podczas dorocznego spotkania Amerykańskiego Towarzystwa Żywienia, które odbyło się w dniach 25–28 lipca 2026 r. w „National Harbor” w stanie Maryland, niedaleko Waszyngtonu. Badanie opublikowano w czasopiśmie American Society for Nutrition (ASN).

Sensoryczne bazy danych: Zamiast po prostu pytać ludzi, co im się podoba w żywności, badacze połączyli odpowiedzi z kwestionariuszy preferencji żywieniowych z sensorycznymi bazami danych, które opisują cechy różnych produktów spożywczych, takie jak słodycz, słoność i kremowość.

Ocena genów dla smaków: następnie przeprowadzili analizy całego genomu w grupie uczestników, aby zidentyfikować różnice genetyczne związane z preferencją smaków słodkich, słonych i tłustych. Następnie stworzyli „wyniki genetyczne”, które odzwierciedlają genetyczne predyspozycje każdej osoby do preferowania każdego z tych gustów.

W innej grupie uczestników naukowcy sprawdzili, czy ta genetyczna predyspozycja faktycznie znajduje odzwierciedlenie w zachowaniach żywieniowych i zdrowiu.

Deser można zacząć od małej ilości

Wstępne wyniki wykazały, że osoby, które miały większą genetyczną skłonność do preferowania słodkich smaków, zjadały średnio około 7 dodatkowych gramów słodkich pokarmów dziennie, w tym słodycze i słodkie napoje.

Może się to wydawać niewielką ilością w ciągu jednego dnia; Naukowcy zwracają jednak uwagę, że niewielkie różnice w nawykach żywieniowych mogą z czasem się kumulować.

Co najważniejsze, wysoka predyspozycja genetyczna do preferowania smaków słodkich lub tłustych była również powiązana ze zwiększoną masą ciała i umiarkowanym wzrostem ryzyka zachorowania na cukrzycę typu 2.

Wydaje się, że duża część tego skojarzenia wynika ze spożywania tak zwanej „przepysznej żywności”, takiej jak słodzone napoje, potrawy smażone, chipsy ziemniaczane i inne produkty spożywcze, które zazwyczaj zawierają wysoki poziom cukru, tłuszczu lub soli.

Geny to nie pożywienie

Naukowcy podkreślają, że wyniki nie oznaczają, że dana osoba jest genetycznie predysponowana do zamiłowania do słodyczy ani że nieuchronnie popadnie w otyłość czy cukrzycę. Na dietę i zdrowie metaboliczne wpływa wiele czynników, w tym środowisko, nawyki żywieniowe i aktywność fizyczna.