
KI & Rechenleistung · Agenten
Was ein KI-Agent den ganzen Tag tut
Ein Agent ist ein Sprachmodell in einer Schleife mit Werkzeugen und der Erlaubnis zu handeln. In diesem Satz stecken der Grund, warum es funktioniert, und jeder Grund, warum es scheitert.
Ein Chatbot antwortet. Ein Agent handelt. Der technische Unterschied ist eine Schleife: Das Modell erzeugt einen Schritt, etwas führt ihn aus, das Ergebnis kommt zurück in den Kontext, und das Modell erzeugt den nächsten Schritt. Geben Sie ihm einen Browser, eine Kommandozeile, eine Datenbankverbindung und einen Kalender, und er kann mehrstufige Arbeit erledigen, ohne dass zwischen den Schritten ein Mensch steht.
Die Fähigkeit ist echt und enger, als die Werbung nahelegt. Zu verstehen, wo die Linie verläuft, spart sehr viel Geld.
Wo Agenten wirklich gut sind
Softwarearbeit mit schnellem Rückmeldesignal. Code schreiben, Tests laufen lassen, den Fehler lesen, ihn beheben. Das ist der beste Fall, denn die Umgebung sagt dem Agenten binnen Sekunden, ob er falsch lag, und diese Prüfung ist objektiv. Die meisten messbaren Produktivitätsbelege stammen von hier.
Recherche mit Quellenangaben. Suchen, lesen, herausziehen und eine Zusammenfassung mit Verweisen bauen. Die Arbeit lässt sich von einem Menschen schneller prüfen, als sie von Hand zu machen wäre.
Strukturierte Fleißarbeit. Uneinheitliche Daten bereinigen, Dokumente umformatieren, Formulare aus einem Postfach befüllen, Anfragen nach Kategorie sortieren. Hohe Stückzahl, geringe Folgen je Stück, leicht stichprobenhaft zu prüfen.
Wo sie brechen
Bei jeder Aufgabe mit langer Kette und ohne Zwischenprüfung. Fehler schaukeln sich auf: Ein Agent, der je Schritt zu 95 Prozent zuverlässig ist, ist über zehn Schritte zu 60 Prozent zuverlässig und über vierzig zu 13. Diese eine Rechnung erklärt die meisten enttäuschenden Pilotergebnisse.
Gefährlich sind Aufgaben, bei denen die Umgebung nicht Nein sagen kann. Ein Agent, der eine Datei schreibt, eine Nachricht sendet oder Geld bewegt, hat keine Testreihe, an der er scheitern könnte. Deshalb hat sich als Bauform durchgesetzt, was den Kontakt mit dem Ernstfall überlebt hat: enge Werkzeuge, ausdrückliche Bestätigung für alles Unumkehrbare und ein Protokoll jeder Handlung.
Und Aufgaben, die Zusammenhänge verlangen, die das Modell nicht hat. Ein Agent weiß nicht, dass dieser Kunde immer spät zahlt, dass die Buchhaltung dieses Format hasst oder dass die zweite Datenbank stillgelegt ist. Sagt es ihm niemand, handelt er plausibel und falsch.
Das Kostenmodell, das niemand einplant
Agenten sind auf eine Weise teuer, wie es ein Chat nicht ist. Eine einzige Agentenaufgabe kann Hunderttausende Token verbrauchen, denn jedes Werkzeugergebnis kommt zurück in den Kontext und der ganze Kontext wird bei jedem Schritt neu verarbeitet. Die Kosten wachsen also im schlechtesten Fall mit dem Quadrat der Gesprächslänge, nicht linear.
Drei Hebel zählen. Zwischenspeichern des gleichbleibenden Teils der Eingabe senkt die Eingabekosten erheblich und gehört als Erstes umgesetzt. Modellwahl, leichte Schritte an ein kleines Modell und schwere an ein Spitzenmodell, ist der zweite. Schrittgrenzen sind der dritte und der am meisten vernachlässigte: ein Agent ohne Budget verbringt fröhlich vierzig Schritte mit einer Aufgabe, die nie funktioniert hätte.
Unser KI-Kostenrechner ist genau für diese Rechnung gebaut, und der Regler, der die meisten überrascht, ist die Zwischenspeicherquote.
Das Messproblem
Vergleichstests für Agenten prüfen Aufgaben mit klarer Erfolgsbedingung, was sie zu genau den Fällen verzerrt, in denen Agenten ohnehin gut sind. Echte Arbeit ist meist mehrdeutig. Wenn Sie Agenten in Ihrer Organisation bewerten, messen Sie das, worauf es Ihnen ankommt: Aufgaben, die ohne menschliche Korrektur fertig wurden, und Zeit für die Durchsicht der Ergebnisse. Die zweite Zahl frisst die Ersparnis still auf.
Worauf zu achten ist
Achten Sie auf veröffentlichte Zuverlässigkeit über lange Ketten statt auf Vergleichstests einzelner Schritte. Achten Sie darauf, ob sich einheitliche Werkzeugschnittstellen durchsetzen, denn das entscheidet, ob Agenten kombinierbar werden oder Einzelanfertigungen bleiben. Und achten Sie auf die Nachvollziehbarkeit: Agenten werden mit nichts Folgenreichem betraut, solange ihr Tun nicht so prüfbar ist wie das eines Menschen.
Fragen, die Leser stellen
Was unterscheidet einen Chatbot von einem Agenten?
Ein Chatbot erzeugt Text, auf den ein Mensch hin handelt. Ein Agent ruft Werkzeuge auf und handelt selbst, in einer Schleife, bis er sich für fertig hält oder eine Grenze ihn stoppt.
Ersetzen Agenten Arbeitsplätze?
Sie nehmen eher Aufgaben auf als Rollen, meist die strukturierten und wiederkehrenden Teile, und schaffen im Gegenzug Prüfarbeit. Am deutlichsten gemessen ist die Wirkung bisher in der Softwareentwicklung.
Warum kosten Agenten so viel mehr als ein Chat?
Jedes Werkzeugergebnis wird dem Kontext hinzugefügt und der ganze Kontext bei jedem Schritt neu verarbeitet, der Tokenverbrauch wächst also mit der Länge der Aufgabe. Zwischenspeichern und Schrittgrenzen sind die wichtigsten Gegenmittel.
Weiterlesen
Weiterlesen
KI & Rechenleistung
Denkende Modelle
Modelle, die nachdenken, bevor sie antworten
Rechenleistung im Moment der Antwort statt im Training zu verbrauchen erwies sich als zweite Skalierungsachse. Es machte Modelle bei schweren Aufgaben besser und je Frage deutlich teurer.
Robotik
Roboter-Basismodelle
Das Gehirn zog vor dem Körper um
Das Bemerkenswerte an der laufenden Roboterwelle ist nicht die Hardware. Es ist, dass ein einziges trainiertes Modell heute viele verschiedene Körper steuern kann und dass es aus Videos von Menschen lernt statt aus Code, der für Maschinen geschrieben wurde.
KI & Rechenleistung
Regulierung
Der AI Act für alle, die ihn einhalten müssen
Europa hat das erste breite Gesetz für künstliche Intelligenz geschrieben. Es ist eine Produktsicherheitsverordnung, keine Technikverordnung, und dieser Unterschied entscheidet fast alles darüber, was er für Sie bedeutet.
Mehr in diesem Ressort