Das Instrument, das alles liest

Am nützlichsten denkt man über KI in der Wissenschaft als über eine neue Art Instrument. Ein Fernrohr hat keine Ideen; es lässt Sie Dinge sehen, die Sie nicht sehen konnten, und die Ideen folgen. Gelernte Modelle leisten Ähnliches für Probleme, bei denen es in der Natur eine Zuordnung gibt, deren direkte Berechnung aber zu teuer ist.

Die drei Fälle, in denen es klar funktioniert hat

Proteinstruktur. Sequenz hinein, dreidimensionale Form heraus. Das war ein fünfzig Jahre offenes Problem, und die Lösung machte aus einer Aufgabe, die eine Doktorarbeit füllte, eine Sache von Minuten. Voraussetzung waren eine große, kuratierte Datenbank experimentell bestimmter Strukturen und ein Problem mit einer einzigen richtigen Antwort. Der Chemie-Nobelpreis 2024 hat es anerkannt.

Wetter. Numerische Wettervorhersage löst Strömungsgleichungen auf einem Gitter, was auf einem Supercomputer Stunden dauert. Modelle, die auf Jahrzehnten aufbereiteter Daten trainiert wurden, liefern heute Vorhersagen vergleichbarer oder besserer Güte in Sekunden. Sie verstehen die Atmosphäre nicht; sie haben die Zuordnung von einem Zustand zum nächsten gelernt, und für die Vorhersage reicht das.

Material- und Chemiescreening. Eigenschaften möglicher Verbindungen schnell genug vorhersagen, um Millionen zu filtern, bevor irgendjemand etwas synthetisiert. Der Wert liegt nicht in perfekter Vorhersage, sondern darin, eine unerreichbare Suche auf eine prüfbare Auswahlliste einzuengen.

Die gemeinsame Gestalt jedes Erfolgs

Sehen Sie sich alle drei an, und dieselben Bedingungen tauchen auf. Ein großer, einheitlicher, maschinenlesbarer Datensatz, den Jahrzehnte unglamouröser Laborarbeit aufgebaut haben. Eine gut gestellte Frage mit prüfbarer Antwort. Und ein Problem, bei dem eine gute Näherung wirklich nützt, weil die Alternative eine teure Simulation oder gar keine Antwort ist.

Wo eines davon fehlt, sind die Ergebnisse viel schwächer. Deshalb hat KI die Strukturbiologie umgewälzt und, sagen wir, die Soziologie nicht.

Das Reproduzierbarkeitsproblem, das sie geschaffen hat

Maschinelles Lernen hat sich in Felder ausgebreitet, deren Forscher nicht in seinen Fehlermustern geschult sind, und die Folgen sind sichtbar. Datenüberlappung zwischen Trainings- und Testmenge liefert spektakuläre Ergebnisse, die an neuen Daten verschwinden. Modelle, die an den Scannern eines Krankenhauses trainiert wurden, lernen den Scanner statt der Krankheit. Veröffentlichte Genauigkeiten auf Vergleichsdaten, die selbst mit einer Schieflage zusammengestellt wurden, schmeicheln jedem Verfahren, das man darauf anwendet.

Mehrere systematische Übersichten haben ergeben, dass ein großer Teil veröffentlichter Ergebnisse des maschinellen Lernens in manchen angewandten Feldern nicht standhält. Das ist ein Methodenproblem, kein Technikproblem, und es lässt sich mit Vorregistrierung, zurückgehaltenen Daten aus anderen Quellen und veröffentlichtem Code beheben. Es lässt sich auch langsam beheben, weil die Anreize in die andere Richtung zeigen.

Was KI nicht tut

Sie wählt die Frage nicht. Sie entwirft nicht das Experiment, das Daten erzeugt, die es noch nicht gibt. Sie merkt nicht, wenn sich die Welt so verändert hat, dass die Trainingsverteilung ungültig ist, und in der Wissenschaft ist das oft der interessante Moment. Und sie liefert nicht den Mechanismus: Ein Modell, das ein Material für stabil hält, sagt nicht warum, und das Warum ist es, was eine Chemikerin verallgemeinern lässt.

Automatisierte Labore, die die körperlichen Versuche fahren und die Ergebnisse zurückspeisen, sind der ernsthafte Versuch, diese Schleife zu schließen. Sie funktionieren in engen, gut instrumentierten Bereichen und sind weit von einer allgemeinen Fähigkeit entfernt.

Worauf zu achten ist

Achten Sie darauf, ob ein Wirkstoff, der aus einer KI-vorhergesagten Struktur entstanden ist, späte Studien besteht, was die erste durchgängige Bestätigung wäre. Achten Sie darauf, ob nationale Wetterdienste solche Modelle übernehmen statt Labore sie zu veröffentlichen. Und achten Sie darauf, wie viele Felder eine zurückgehaltene externe Prüfung zur Veröffentlichungsbedingung machen, denn davon hängt ab, wie viel dieser Literatur übrig bleibt.