Der AI Act für alle, die ihn einhalten müssen

Der AI Act reguliert nicht künstliche Intelligenz als solche. Er reguliert das Inverkehrbringen von KI-Systemen auf dem europäischen Markt, so wie die Maschinenrichtlinie das Inverkehrbringen einer Maschine regelt. Die Pflichten hängen an einem Anwendungsfall, nicht an einem Modell, und sie wachsen mit dem Risiko, das dieser Fall trägt.

Die vier Stufen, schlicht gesagt

Verboten. Eine kurze Liste, darunter soziale Bewertung durch Behörden, das ungezielte Absaugen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Schulen und bestimmte vorhersagende Polizeiarbeit. Das sind keine Compliance-Fragen, das sind Verbote.

Hochrisiko. Die Stufe, die Arbeit macht. Sie erfasst KI in der Personalauswahl, bei Kreditwürdigkeit, beim Zugang zu Bildung, bei wesentlichen Diensten, in der Strafverfolgung, bei Migration, in kritischer Infrastruktur und als Sicherheitsbauteil eines regulierten Produkts. Zu den Pflichten gehören Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht, Maßnahmen zu Genauigkeit und Robustheit und eine Konformitätsbewertung vor dem Markteintritt.

Begrenztes Risiko. Transparenzpflichten. Menschen müssen erfahren, dass sie mit einem KI-System sprechen, und synthetische Medien müssen maschinenlesbar als solche gekennzeichnet sein.

Minimales Risiko. Die meiste Software. Keine besonderen Pflichten.

Daneben stehen Universalmodelle mit eigenen Pflichten: technische Dokumentation, eine Urheberrechtsrichtlinie, eine Zusammenfassung der Trainingsdaten und für die leistungsfähigsten Modelle zusätzliche Prüfung und Meldung von Vorfällen.

Die drei Fehler, die Organisationen immer wieder machen

Anzunehmen, die Konformität des Modellanbieters decke sie ab. Tut sie nicht. Wer ein System in einem Hochrisikozusammenhang einsetzt, trägt Betreiberpflichten, ganz gleich wer das Modell gebaut hat: menschliche Aufsicht, Überwachung, Protokolle aufbewahren, Betroffene informieren. Ein Auswahlwerkzeug auf dem Modell eines anderen ist Ihr Hochrisikosystem.

Geschäftsrisiko mit Risiko im Sinne des Gesetzes zu verwechseln. Die Stufen betreffen das Risiko für Rechte und Sicherheit von Menschen, nicht die kaufmännische Gefährdung. Ein internes Werkzeug, das still Bewerbungen filtert, ist Hochrisiko. Ein kundenseitiger Chatbot, der Produktfragen beantwortet, meist nicht.

Beim Modell statt beim Verzeichnis anzufangen. Das erste Ergebnis jedes Compliance-Projekts ist eine Liste: jedes eingesetzte KI-System, was es entscheidet, wen es betrifft und ob ein Mensch es sinnvoll übersteuern kann. Die meisten Organisationen können diese Liste nicht vorlegen, und beim Erstellen finden sich meist zwei oder drei Systeme, an die niemand mehr gedacht hat.

Was menschliche Aufsicht heißen muss

Gefordert ist kein Mensch in der Schleife als Formalie. Gemeint ist jemand, der die Ausgabe verstehen kann, die Befugnis hat, sie zu übersteuern, und nicht so überlastet ist, dass das Übersteuern theoretisch bleibt. Die Aufsicht hat signalisiert, dass Abnicken keine Aufsicht ist, was aus der Personalfrage eine Compliance-Frage macht.

Bremst er die europäische KI

Die ehrliche Antwort hängt davon ab, wo Sie sitzen. Für eine Firma, die ein Produkt für Personalauswahl oder Kredit baut, ist die Dokumentationslast erheblich und real. Für die große Mehrheit der Software, die KI mit minimalem Risiko nutzt, bestehen die Pflichten aus Transparenz und wenig sonst. Die stärkste Kritik sind nicht die Stufen, sondern die Unsicherheit: Normen und Auslegungshilfen kamen langsam, und die Arbeit musste beginnen, bevor das Ziel vollständig gezeichnet war.

Das Gegenargument gehört ebenfalls gesagt: die meisten Hochrisikopflichten beschreiben, was eine kompetente Ingenieurorganisation ohnehin tun sollte. Die eigenen Trainingsdaten zu kennen, Entscheidungen zu protokollieren, Genauigkeit zu messen und einem Menschen das Übersteuern zu erlauben, sind keine exotischen Anforderungen.

Worauf zu achten ist

Achten Sie auf die harmonisierten Normen, denn sie machen aus abstrakten Pflichten prüfbare Anforderungen. Achten Sie auf die ersten Durchsetzungsfälle, die festlegen werden, wie streng menschliche Aufsicht gelesen wird. Und achten Sie darauf, ob andere Rechtsordnungen die Risikostufen übernehmen, was daraus faktisch einen weltweiten Rahmen machen würde, so wie aus der DSGVO ein weltweiter Datenschutzmaßstab wurde.