KI im wissenschaftlichen Prozess: Werkzeug oder Denker?

Sie erstellen selbständig Texte und Bilder, erkennen Gesichter, Sprache, komponieren eigene Musikstücke, stellen medizinische Diagnosen und sagen zuverlässig das Wetter voraus – selbstlernende Algorithmen der Künstlichen Intelligenz sind aus dem Alltag nicht mehr wegzudenken. Sie übernehmen selbst das Schreiben von Programmcodes und beweisen mathematische Vermutungen.

Aber nicht nur komplexe Muster und Sprache können KI-Systeme inzwischen erkennen, sie sind nach entsprechendem Training auch fähig, verlässliche wissenschaftliche Voraussagen zu machen, was bei der Entwicklung neuer Materialien und bei der chemischen Synthese neuer Substanzen und Wirkstoffe bereits intensiv genutzt wird. Mit dem KI-Modell „Alphafold“ beispielsweise können bereits die Strukturen von 200 Millionen bekannten Proteinen vorhergesagt werden, Informationen, die Forscher etwa für die Entwicklung von Wirkstoffen benötigen – eine Leistung, für die John Jumper von Google Deep Mind vor zwei Jahren mit dem Chemie-Nobelpreis geehrt wurde. Doch die meisten KI-Systeme sind eine intransparente „Blackbox“. Selbst ihre Programmierer können oft nicht nachvollziehen, wie die Algorithmen ihre Entscheidungen treffen und die Ergebnisse zustande kommen.

Welche Rolle spielt die KI im wissenschaftlichen Prozess? Ist sie ein Werkzeug, das uns hilft, Experimente besser zu konzipieren und wissenschaftliche Ergebnisse sowie Zusammenhänge besser zu verstehen, oder zwingt sie uns, neu zu überdenken, was „Verstehen“ im Zeitalter von KI eigentlich bedeutet? Und wie hat die Künstliche Intelligenz unser Verständnis von Vertrauen verändert? Das waren Fragen, die sich am Mittwochnachmittag die Nobelpreisträgerin Anne L’Huillier (2023), die Laureaten William D. Phillips (2017) und John Jumper (2024) sowie die Informatikerin Klara Bonneau von der Freien Universität Berlin stellten und zu beantworten versuchten.

Wir brauchen ein Bild zum Verständnis

„Anne L’Huillier, Sie wurden im Jahr 2023 für die Erzeugung von Attosekunden-Lichtpulsen ausgezeichnet. Was bedeutet für Sie, als Experimentalphysikerin der alten Schule, etwas zu verstehen?“, fragte Moderator Heiner Linke gleich zu Anfang die Physiknobelpreisträgerin. „Es war für uns eine völlig unerwartete, experimentelle Entdeckung, als wir 1987 Heliumatome mit intensivem infrarotem Laserlicht bestrahlten und plötzlich diese kurzen Lichtpulse im Röntgenbereich beobachteten. Niemand von meinen Kollegen hat zunächst verstanden, was dahintersteckte. Und so etwas könne nur in einem Labor bei richtigen Experimenten passieren. Und wir taten dann, was man üblicherweise tut, wenn man vor einem Rätsel steht: Man versucht, die Beobachtung mit einem Modell zu simulieren. Es hat vier Jahre gedauert, bis wir die experimentellen Ergebnisse mit einer von uns entwickelten zeitabhängigen Gleichung reproduzieren konnten. Dennoch haben wir das Phänomen erst richtig verstanden, als wir uns eine bildliche Vorstellung von dem machten, was mit den angeregten Heliumatomen passierte.“

„Und das kam erst später?“, bohrte Linke nach. „Ja. Unser Bild heute: Durch die Laserbestrahlung wird bei dem Edelgasatom ein Elektron freigesetzt, das sich vom Atomkern entfernt. Da das Laserfeld schnell oszilliert, kehrt das Elektron zurück und prallt auf das Heliumatom. Und dabei wird ein Röntgen-Photon mit einer kürzeren Wellenlänge freigesetzt. Wir Menschen brauchen ein einfaches Bild, um uns komplizierte Prozesse vorstellen zu können.“

„Ich stimme Anne vollkommen zu“, pflichtete William Phillips seiner Vorrednerin bei. Er habe etwas Ähnliches erlebt, als er mit seinen Kollegen 1988 entdeckte, dass man mit Laserpulsen und Magnetfeldern schnelle Atome bis zum Stillstand abbremsen und damit auf tiefere Temperaturen kühlen kann, als die Theorie bis dahin erlaubte. „Ich glaube nicht, dass Künstliche Intelligenz jemals unerwartete Dinge wird entdecken können“, sagte Phillips und ergänzte: „Verstehen wir wirklich etwas, wenn wir das Problem einer KI vorlegen und sie uns Antworten liefert, die wir nicht kennen?“ Und dann stelle sich die Frage, ob wir nun etwas Neues verstehen, nur weil die KI eine neue Vorhersage gibt? Denn was verstehen wir unter Verstehen? Wir verstehen erst wirklich etwas durch Bilder, die vielleicht falsch sind. Philipps erwähnte in diesem Zusammenhang das bohrsche Atommodell, bei dem ein Elektron um einen Atomkern kreist. „Wir wissen, dass dieses naive Modell die Realität nicht richtig beschreibt, dennoch ist es so stark, dass wir es immer noch nutzen, um neue Erkenntnisse zu gewinnen.“

Mit KI werden Dinge möglich, die undenkbar waren

„Klara Bonneau, Sie arbeiten mit neuronalen Netzwerken, um die Dynamik von Proteinen besser zu verstehen. Was sind Ihre Erfahrungen mit KI-Systemen?“, fragte Linke die Nachwuchswissenschaftlerin der FU Berlin, die ihre Ausbildung abschloss, bevor die großen Sprachmodelle den Markt eroberten. „Während meines Studiums herrschte bei meinen Professoren und Assistenten überwiegend die Meinung vor: KI ist ein Werkzeug für Menschen, die die dahinterstehende Wissenschaft nicht wirklich verstehen wollen. Sie wollen einfach nur Daten eingeben und dann die KI die schwere Arbeit für sich erledigen lassen.“ Bonneau habe durch ihre Arbeit jetzt das Gefühl, dass die KI tatsächlich Ergebnisse liefert. „Sie macht Dinge möglich, die zuvor völlig unvorstellbar waren. Wir nutzen neuronale Netzwerke, die lernen, wie sich Proteine zusammenfalten, und tatsächlich physikalisch sinnvolle Vorhersagen treffen können. Wir können mit unserem neuronalen Netz beispielsweise bereits bestimmte Auswirkungen von Fehlfaltungen wie Amyloiden vorhersagen, die bei der Alzheimer-Erkrankung eine Rolle spielen. Das war mit bisherigen Simulationen mit einem großen Rechenaufwand verbunden.“

Für Bonneau stellen sich aus ihrer Arbeit mit KI einige Fragen: Früher vertrauten Wissenschaftler einem Computermodell, weil man nachvollziehen konnte, warum es diese oder jene Vorhersage traf. „Mit der KI ist diese Verbindung unterbrochen. Sollten wir also lernen, etwas zu vertrauen, obwohl es an Nachvollziehbarkeit bei der Vorhersage mangelt?“, und blickte in Richtung John Jumper, der als Vater von Alphafold den Ball gerne aufgriff und sie beruhigen konnte.

Vertrauen in die KI durch Fehlerkultur

„Bei Alphafold haben wir Mechanismen verwirklicht, die dem Nutzer Vertrauen in das Ergebnis geben, ohne dass ein größeres Verständnis für den dahintersteckenden Algorithmus notwendig ist“, sagte Jumper. Alphafold liefere nämlich zwei Vorhersagen. Zum einen sage es die Struktur des Proteins voraus. Zum anderen liefere es den Fehler dieser Proteinstruktur gleich mit. So sei Alphafold zu einem nützlichen wissenschaftlichen Werkzeug geworden. Für Jumper stellten sich noch andere Fragen: Wie gelangen wir zum Verständnis? Erhalten wir beim Training der KI gute Abstraktionen? Wie können wir ein Verständnis dafür entwickeln, welche Art von Eingaben zu welcher Art von Ausgaben führen und wann das Modell falschliegt? „Wir wissen zum Beispiel, dass Alphafold vergleichsweise zuverlässig die Gesamtstruktur von Membranproteinen voraussagt. Aber es gelingt ihr nicht gut, intrazelluläre und extrazelluläre Domänen voneinander zu trennen“, sagte Jumper. „Daran müssen wir noch arbeiten.“

„Ich war Vorsitzender des Nobelkomitees, als vor zwei Jahren in Stockholm entschieden wurde, Ihnen für Alphafold den Chemienobelpreis zu verleihen“, gab Heiner Linke zu und nannte die drei Gründe für den Entschluss: Das KI-Modell war in einer Fachzeitschrift beschrieben worden und so für jeden transparent. Der Datensatz, mit dem Alphafold trainiert wurde, war in der „International Protein Data Bank“ veröffentlicht worden und so für jeden zugänglich. „Die Leute konnten also sehr schnell die Vorhersagen von Alphafold überprüfen, testen und verifizieren – und das haben auch wir getan. Alphafold setzt hier, glaube ich, einen Standard.“ Es sei nicht so einfach, andere Anwendungsbereiche für KI zu finden, die diese Kriterien derzeit erfüllen.

Ob eine Künstliche Intelligenz für eine bahnbrechende Entdeckung eines Tages den Nobelpreis bekommen könne, fragte eine besorgte Jungwissenschaftlerin aus dem Publikum, die um den Verlust an Menschlichkeit in Zeiten von KI offensichtlich besorgt war. Aber Heiner Linke konnte sie schnell beruhigen: „Der Nobelpreis wird auch künftig nur an Menschen verliehen.“ So ist auch nicht zu befürchten, dass sich in Lindau eines Tages eine Maschine unter den noblen Gästen tummelt.