Warum die Fragen jetzt kommen
Der EU AI Act (Verordnung (EU) 2024/1689, die KI-Verordnung) ist im August 2024 in Kraft getreten und gilt schrittweise. Zuerst kamen im Februar 2025 die verbotenen Praktiken und die KI-Kompetenz. Die Regeln für KI-Modelle mit allgemeinem Verwendungszweck folgten im August 2025, die Transparenzpflichten im August 2026. KI-Systeme, die bis dahin bereits in Verkehr gebracht waren, haben bis Dezember 2026 Zeit, die von ihnen erzeugten Inhalte maschinenlesbar zu kennzeichnen.
Der Digital Omnibus, die im Juli 2026 in Kraft getretene Änderung, hat drei Dinge geändert, nach denen ein Lieferant gefragt wird. Er hat die Hochrisiko-Pflichten verschoben: auf Dezember 2027 für die aufgeführten Hochrisiko-Anwendungen und auf August 2028 für KI in regulierten Produkten. Er hat die Pflicht zur KI-Kompetenz abgeschwächt: Anbieter und Betreiber müssen Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals fördern, statt für jede Person ein ausreichendes Niveau sicherzustellen. Und er hat ab Dezember 2026 zwei verbotene Praktiken hinzugefügt: KI, die ohne Einwilligung intime Bilder einer realen Person erzeugt, und KI, die Darstellungen sexuellen Kindesmissbrauchs erzeugt.
Die meisten Ihrer Kunden sind nach der Verordnung Betreiber: Sie setzen ein KI-System in ihrer eigenen Arbeit ein und müssen genug darüber wissen, um es regelkonform zu nutzen. Ihre Einkaufs- und Sicherheitsteams haben dem Lieferantenfragebogen deshalb einen KI-Teil hinzugefügt, und der erreicht jeden Lieferanten, dessen Produkt etwas entwirft, bewertet, zusammenfasst oder empfiehlt.
Was ein Fragebogen zum AI Act abfragt
Die Fragen unterscheiden sich von Kunde zu Kunde, aber dieselben Themen kehren wieder:
- Welche Funktionen KI nutzen, was jede davon tut und ob ein Kunde sie abschalten kann.
- Ihre Rolle: ob Sie Anbieter des KI-Systems sind und auf welchen Anbietern von KI-Modellen mit allgemeinem Verwendungszweck Sie aufbauen.
- Die Risikoklasse: ob eine Anwendung eine verbotene Praxis ist oder unter die Hochrisiko-Liste fällt, und wie Sie zu diesem Schluss gekommen sind.
- Transparenz: ob Nutzer erfahren, dass sie mit KI arbeiten, und ob erzeugte Inhalte als solche gekennzeichnet sind.
- Kundendaten: ob Prompts, Dokumente oder Ausgaben zum Training eines Modells verwendet werden, wo sie verarbeitet und wie lange sie aufbewahrt werden.
- Menschliche Aufsicht: ob ein Mensch die Ausgabe prüft, bevor sie verwendet wird, und ob er sie korrigieren oder übersteuern kann.
- Genauigkeit und Tests: wie Sie die Ausgabe bewerten, wie Sie mit bekannten Fehlerbildern umgehen und was Sie protokollieren.
- Governance: wer in Ihrem Unternehmen für KI verantwortlich ist, ob Sie eine KI-Richtlinie haben oder ISO 42001 folgen und was Sie für die KI-Kompetenz Ihrer eigenen Mitarbeitenden tun.
Antworten als Lieferant
Beginnen Sie mit einem Verzeichnis, ein Eintrag pro KI-Funktion: was sie tut, welches Modell und welchen Anbieter sie aufruft, welche Daten gesendet werden, ob etwas gespeichert oder für das Training verwendet wird, wer die Ausgabe prüft, und ihre Risikoklasse mit einer Begründung in einem Satz. Fünf Funktionen passen auf eine Seite, und jede Zeile im KI-Teil wird daraus beantwortet.
Zwei Antworten brauchen eine Entscheidung statt einer Tatsache. Die erste ist Ihre Rollenbeschreibung: was Sie bereitstellen, was der Kunde entscheidet und wo die eigenen Pflichten des Kunden als Betreiber beginnen. Die zweite ist die Risikoeinstufung. „Kein Hochrisiko“ ist nur dann eine vollständige Antwort, wenn sie die Anwendung und den Grund nennt, zum Beispiel „entwirft Antworten zur Prüfung durch Mitarbeitende des Kunden; keine in Anhang III aufgeführte Anwendung“. Stimmen Sie beides mit der Person ab, die Ihre Verträge unterschreibt, damit Fragebogen und Vertrag dasselbe sagen.
Der KI-Teil überschneidet sich mit zwei Teilen, die Sie bereits beantworten. Training mit Kundendaten, Verarbeitungsorte und Unterauftragsverarbeiter sind DSGVO-Fragen, diesmal für die KI-Anbieter gestellt, und Protokollierung, Zugriff und Umgang mit Vorfällen sind Sicherheitsantworten, die Sie schon haben. Antworten Sie an beiden Stellen mit demselben Text.
Die Antworten und Ihre eigene KI
Die Antworten zum AI Act liegen in der Wissensdatenbank wie jede andere freigegebene Antwort, mit dem Verzeichnis und Ihrer KI-Richtlinie als Nachweise mit Prüfterminen angehängt, und jeder Fragebogen wird daraus in den Worten des Kunden entworfen. Responsemate ist selbst ein KI-Produkt, seine eigenen Antworten sind also ein praktisches Beispiel: Jeder Entwurf zeigt seine Quellen und einen Konfidenzwert und wartet darauf, dass ein Mensch ihn freigibt, KI-Anbieter und Modell wählt der Kunde, und mit Kundeninhalten wird kein Modell trainiert. Der AI usage report zeigt die verwendeten Quellen. Wie Responsemate selbst mit KI und Daten umgeht.
Häufige Fragen
Gilt der EU AI Act für einen SaaS-Anbieter außerhalb der EU?
Ja, wenn das KI-System in der EU in Verkehr gebracht wird oder seine Ausgabe in der EU verwendet wird. Ein Anbieter in den USA oder im Vereinigten Königreich, der an EU-Kunden verkauft, fällt für die Systeme, die diese Kunden nutzen, in den Anwendungsbereich.
Ist unser Produkt nach dem AI Act ein Hochrisiko-System?
Wahrscheinlich nicht. Als Hochrisiko gilt nur eine festgelegte Liste von Anwendungen, etwa Personalauswahl, Kreditwürdigkeitsprüfung, Zugang zu Bildung oder grundlegenden öffentlichen Diensten und Sicherheitsbauteile regulierter Produkte. Texte entwerfen, Dokumente zusammenfassen oder eine Wissensdatenbank durchsuchen steht nicht darauf. Nennen Sie in ein oder zwei Sätzen, in welche Kategorie Sie fallen und warum.
Die Hochrisiko-Frist wurde auf 2027 verschoben. Können wir mit der Antwort warten?
Nein. Die Verschiebung betrifft die Hochrisiko-Pflichten, und die meiste B2B-Software ist ohnehin kein Hochrisiko-System. Die verbotenen Praktiken, die Transparenzpflichten und die Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten bereits, und Ihre Kunden sammeln die Antworten der Lieferanten jetzt ein, für Verträge, die weit über 2027 hinaus laufen.
Brauchen wir ISO 42001, um einen Fragebogen zum AI Act zu beantworten?
Nein. ISO/IEC 42001 ist eine freiwillige Norm für ein KI-Managementsystem, und ein Zertifikat ist ein nützlicher Nachweis, aber der Fragebogen lässt sich auch ohne beantworten. Kunden fragen danach so, wie sie nach ISO 27001 fragen.