EU AI Act einfach erklärt: Zwei Pflichten im Alltag, Hochrisiko verschoben

Seit dem 2. August gilt die Transparenzpflicht der europäischen KI-Verordnung. Fünf Wochen später ist kein Bußgeld öffentlich bekannt geworden, die Verwirrung ist geblieben: verschoben oder nicht, Wasserzeichen oder nicht, Zertifikat oder nicht. Für Selbstständige wie für alle, die in einem Unternehmen für KI zuständig sind, läuft der neue Teil des Gesetzes im Alltag meist auf zwei Dinge hinaus: darauf achten, dass Kunden erkennen, wenn sie mit einer KI statt mit einem Menschen chatten. Und KI-Inhalte nicht als echte Aufnahmen ausgeben. Was davon im Einzelfall greift, entscheidet nicht die Größe des Betriebs, sondern die Aufgabe, die die KI übernimmt, und die Rolle des Betriebs dabei: Wer ein fertiges Werkzeug nutzt, steht anders da als wer es selbst anbietet.

Ob überhaupt etwas zu tun ist, lässt sich für einen einfachen Betrieb in weniger als einer halben Stunde klären, der Selbst-Check am Ende des Artikels hilft dabei. Dass die Schlagzeilen trotzdem widersprüchlich klingen, hat einen Grund: Drei Dinge sind fast gleichzeitig passiert, und sie haben wenig miteinander zu tun. Der Stichtag ist gekommen. Die EU hat kurz davor große Teile der Verordnung gelockert. Und Deutschland hat sein eigenes Gesetz dazu in Kraft gesetzt, samt einer Behörde, die seit Ende Juli offiziell zuständig ist.

Verschoben wurden vor allem die Hochrisiko-Pflichten

Die EU hat im Sommer ihr großes Lockerungspaket beschlossen, in Brüssel KI-Omnibus genannt. Seit dem 27. Juli ist es in Kraft. Damit rutschen die aufwändigen Pflichten nach hinten, auf Ende 2027 und für KI in regulierten Produkten auf August 2028. Gemeint ist Hochrisiko-KI. So heißen Systeme, die über Menschen mitentscheiden, zum Beispiel bei Bewerbungen, Krediten oder Prüfungen.

Eine Texterin, die mit ChatGPT Entwürfe schreibt, bleibt außerhalb des Hochrisiko-Bereichs. Ein Malerbetrieb, der sich Angebote vorformulieren lässt, ebenso, und ein Konzern, der KI nur zum Texten und Gestalten nutzt, genauso. Sobald eine KI aber mitentscheidet, wer eingestellt wird oder wie kreditwürdig jemand ist, beginnt der Hochrisiko-Bereich. Schon das Vorsortieren von Bewerbungen kann dafür reichen, auch wenn die letzte Entscheidung bei einem Menschen bleibt. Dasselbe gilt nach innen, wenn eine Software die eigenen Beschäftigten bewertet und an dem Urteil Folgen hängen. Wer solche Systeme einsetzt, hat durch die Verschiebung Zeit gewonnen, erledigt ist das Thema damit nicht. In den meisten Betrieben kommt so etwas nicht vor.

Pünktlich gekommen ist ein anderer, viel kleinerer Teil: Artikel 50 des AI Act, die Transparenzpflicht. Ihr Termin blieb der 2. August, daran hat das Lockerungspaket nichts geändert. Aufgeschoben ist daran nur ein technisches Detail, das die Anbieter betrifft: Ältere Bild- und Textgeneratoren dürfen die unsichtbare Markierung ihrer Inhalte bis Anfang Dezember nachrüsten. Mehrere Kanzleien schreiben in ihren Analysen zum Omnibus, genau diese Verwechslung sei ein häufiger Fehler in der Berichterstattung: Verschoben ist Hochrisiko, nicht die Transparenz.

Pflicht eins: Der Chatbot muss sich zu erkennen geben

Transparenzpflicht klingt nach Aktenordner. Im Kern heißt sie: Bescheid geben, wenn KI im Spiel ist. Artikel 50 kennt noch weitere Fälle, etwa Software, die aus Stimme oder Gesicht Stimmungen liest. Für die meisten Betriebe läuft es im Alltag auf zwei Situationen hinaus.

Die erste ist der Chatbot. Sitzt auf der eigenen Website ein KI-Assistent, mit dem Besucher tippen können, muss erkennbar sein, dass kein Mensch zurückschreibt. Dasselbe gilt für Sprachassistenten am Telefon. Diese Pflicht trifft im Gesetz den Anbieter des Systems: Er muss den Bot so bauen, dass Besucher informiert werden, und viele Chatbot-Baukästen bringen den Hinweis deshalb schon mit. Wer einen fertigen Chatbot einkauft, ist damit nicht selbst Adressat der Vorschrift. Anders liegt es, wer den Bot selbst entwickelt oder unter eigenem Namen anbietet. Ob der Hinweis in der eigenen Einbindung sichtbar bleibt, gehört trotzdem einmal geprüft, denn was der Bot Besuchern sagt, fällt auf den zurück, der ihn einsetzt. Ein Satz genügt, etwa „Sie chatten hier mit einem KI-Assistenten“. Ist für Besucher ohnehin eindeutig, dass eine KI antwortet, braucht es den Satz nicht. Diese Ausnahme steht so im Gesetz.

Für normale Texte gilt das nicht automatisch. Der AI Act verlangt keine allgemeine Kennzeichnung jedes Blogartikels oder Newsletters, der mit ChatGPT entstanden ist. Strenger ist er nur bei Texten, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren, etwa Gesundheit, Finanzen oder Recht. Auch dort entfällt die Kennzeichnung, wenn ein Mensch den Text inhaltlich oder redaktionell prüft, nicht nur die Rechtschreibung, und die Verantwortung für die Veröffentlichung übernimmt. Wer den eigenen Blog, den Firmenblog oder den Kunden-Newsletter so prüft und verantwortet, fällt unter diese Ausnahme.

Wie ernst der eigene Bot zu nehmen ist, verhandelte im Mai das Oberlandesgericht Hamm. Auf der Website eines Anbieters von Schönheitsbehandlungen hatte der Chatbot Facharzttitel für die Geschäftsführung erfunden, zwei der genannten Bezeichnungen existieren gar nicht. Ein Verbraucherverband klagte. Das Unternehmen müsse sich die Aussagen seines Bots zurechnen lassen, entschied das Gericht, auch wenn die Maschine sie frei erfunden hat. Das Gericht hat die Revision zum Bundesgerichtshof zugelassen, das letzte Wort ist womöglich noch nicht gesprochen. Und das Urteil stützt sich auf das Wettbewerbsrecht, nicht auf den AI Act. Für den Alltag heißt es dennoch: Was der Bot Kunden erzählt, fällt auf die Firma zurück, die ihn einsetzt.

Kanzleien, die das Urteil auswerten, ziehen daraus eine zweite Lehre. Ein pauschaler Warnhinweis wie „Die KI kann Fehler machen“ schützt nicht zuverlässig vor rechtlicher Verantwortung. Der Transparenzhinweis sagt nur, wer antwortet, nicht, ob die Antwort stimmt. Der Hinweis kostet eine Minute. Ein regelmäßiger Blick darauf, welche Antworten und Versprechen der Bot Kunden gibt, ein paar mehr. Beides erspart im Zweifel viel Ärger.

Pflicht zwei: KI-Bilder, die Echtes vortäuschen, werden gekennzeichnet

Die zweite Situation betrifft KI-Bilder, -Videos und -Ton. Wer KI-Inhalte zeigt, die echten Personen, Orten, Dingen oder Ereignissen ähneln und fälschlich echt wirken, muss sie kennzeichnen. Das Fachwort dafür ist Deepfake, und genau so definiert es das Gesetz. Der Gedanke dahinter ist eine alte Anstandsregel: Erfundenes gibt man nicht als Wirklichkeit aus. Für offensichtlich künstlerische oder satirische Inhalte reicht ein knapper Hinweis, der das Werk nicht stört.

Wie die Kennzeichnung aussieht, schreibt das Gesetz nicht vor, wohl aber, dass sie klar erkennbar ist, spätestens wenn jemand das Bild zum ersten Mal sieht. Ein sichtbarer Vermerk direkt am Bild kann genügen, etwa „KI-generiert“ in der Bildunterschrift oder als Schriftzug im Bild. Ein erst weiter unten im Text versteckter Hinweis dürfte dafür nicht reichen. Die EU-Kommission stellt seit Juni außerdem ein optionales Set einheitlicher KI-Symbole bereit. Auf den Ort kommt es nicht an: Website, Social Media, Broschüre oder Präsentation beim Kunden, überall gilt dasselbe. Auch eine komplett erfundene Person kann darunterfallen. Die Kommission legt den Begriff weit aus: Es genügt, dass eine gezeigte Person oder Situation plausibel existieren könnte und fälschlich echt wirkt. Das fotorealistische KI-Teamfoto auf der Über-uns-Seite gehört deshalb gekennzeichnet, wenn Besucher es für eine Aufnahme echter Mitarbeiter halten könnten.

Wohin die Täuschung führt, zeigt ein Fall, der Anfang Juli bei der Kriminalpolizei Chemnitz landete. Eine Frau aus Lichtenberg in Mittelsachsen war im April auf ein Video gestoßen, das die Kulisse der ZDF-Talkshow von Markus Lanz zeigte. Eine angebliche Finanzexpertin pries darin eine Investmentplattform an. Die Sendung hat es nie gegeben, das Video kam aus der KI. Die Frau überwies erst knapp 250 Euro, am Ende insgesamt über eine Million. Ermittelt wird laut Polizei wegen Betrugs. Genau vor solchen Videos soll die Kennzeichnungspflicht schützen. Eine offen als KI ausgewiesene Produktgrafik spielt in einer anderen Liga.

Ein unsichtbares Wasserzeichen muss dafür niemand selbst einbauen, auch wenn sich dieses Missverständnis hartnäckig hält. Die Pflicht zu maschinenlesbaren Markierungen, also zu Vermerken in der Datei, die Programme lesen und Menschen nicht sehen, richtet sich an die Anbieter der KI-Systeme, an Unternehmen wie OpenAI oder Google. Wie sie das umsetzen, beschreibt ein freiwilliger Verhaltenskodex, den die EU-Kommission im Juni veröffentlicht hat. Für Anwender gilt die einfachere Regel: Was wie ein echtes Foto aussieht und keins ist, gibt man nicht als echtes Foto aus.

Was bringt die Kennzeichnung, wenn Betrüger sich nicht daran halten? Ein Teil der Antwort läuft über die Plattformen. YouTube versieht fotorealistische KI-Videos seit Mai von sich aus mit einem Label, wenn der Ersteller es versäumt hat, und setzt neben den Markierungen der Anbieter auf eigene Erkennung. Lückenlos ist das nicht. Das Netz, in dem Videos wie das gefälschte Lanz-Interview hängen bleiben sollen, wird gerade erst geknüpft.

Wer genauer hinsehen muss

Bleibt die Frage, für wen es nicht bei den zwei Dingen bleibt. Entscheidet eine KI über Menschen mit, sortiert etwa Bewerbungen vor, bewertet Beschäftigte oder schätzt die Kreditwürdigkeit ein, gilt das Hochrisiko-Kapitel, verschoben, aber nicht erledigt. Liest eine Software Gefühle aus Stimme oder Gesicht, müssen die Betroffenen darüber informiert werden. Und ganz verboten sind seit Februar 2025 Social Scoring, also Punktesysteme, die Menschen nach ihrem Alltagsverhalten bewerten, Emotionserkennung am Arbeitsplatz außer aus medizinischen oder Sicherheitsgründen, und Gesichtserkennungs-Datenbanken, die durch ungezieltes Absaugen von Fotos aus dem Netz oder aus Überwachungskameras entstehen. Wer eines davon bei sich wiederfindet, sollte genauer prüfen und sich fachlichen Rat holen, statt sich auf einen Ratgeber zu verlassen. In den meisten Betrieben kommt nichts davon vor.

Und das Bußgeld? Die berühmten 35 Millionen Euro oder 7 Prozent vom Umsatz gelten für die verbotenen Praktiken, für Social Scoring und Ähnliches, also für Dinge, die ein normal arbeitender Betrieb nicht tut. Für einen Verstoß gegen die Transparenzpflicht liegt der Rahmen bei höchstens 15 Millionen Euro oder 3 Prozent. Für kleine Unternehmen gilt die niedrigere der beiden Grenzen, und die Größe des Betriebs zählt bei der Bemessung mit, beides steht in der Verordnung. Bis Anfang September ist kein Bußgeld wegen eines Verstoßes gegen die Transparenzpflicht öffentlich bekannt geworden. Über Bußgelder entscheidet die Aufsichtsbehörde, nicht der KI-Anbieter.

KI-Kompetenz braucht weder Kurs noch Zertifikat

Eine Vorschrift gilt schon seit Februar 2025: Artikel 4. Wer KI geschäftlich nutzt, soll dafür sorgen, dass die Menschen, die damit arbeiten, genug davon verstehen. Das Lockerungspaket hat diese Pflicht sogar entschärft. Verlangt sind seither Maßnahmen, die KI-Kompetenz fördern, kein garantierter Wissensstand. Das gilt für jeden Betrieb, der KI geschäftlich einsetzt, egal wie oft.

Ein Zertifikat steckt nicht dahinter. Auch kein Pflichtkurs und keine Mindeststundenzahl. Einen eigenen Bußgeldtatbestand für einen Verstoß gegen Artikel 4 enthält das deutsche KI-Gesetz nicht. Gemeint ist: wissen, was die eigenen Werkzeuge können, wo ihre Grenzen liegen und welche Daten hinein dürfen. Die Bundesnetzagentur empfiehlt, die ergriffenen Maßnahmen zu dokumentieren, um im Zweifel die eigene Sorgfalt belegen zu können. Für einen kleinen Betrieb können das wenige Zeilen sein: welche Werkzeuge wofür im Einsatz sind, wo bewusst nicht, und wie sich die Beteiligten eingearbeitet haben. Umfang und Tiefe sollten zum Einsatz passen.

Zwei Fragen davon beantworten eigene Artikel auf dieser Seite: ob Kundendaten in ChatGPT gehören, mit der KI-Daten-Ampel für den konkreten Fall, und welches Werkzeug wofür taugt, im Vergleich von ChatGPT, Claude und Gemini.

Die Bundesnetzagentur ist jetzt zuständig und hilft kostenlos

Und wer kontrolliert das alles? Lange war unklar, wer den AI Act hierzulande beaufsichtigt. Seit dem 29. Juli ist das deutsche Gesetz dazu in Kraft, das KI-Marktüberwachungs- und Innovationsförderungsgesetz. Zentrale Anlaufstelle ist die Bundesnetzagentur. Sie überwacht die Einhaltung, nimmt Beschwerden an und betreibt einen KI-Service Desk für Unternehmen, den es schon seit Juli 2025 gibt, erreichbar unter bundesnetzagentur.de/ki. Dort steht ein Online-Werkzeug, der KI-Compliance Kompass, das in wenigen Schritten einordnet, ob eine Anwendung unter die Verordnung fällt und wie streng sie eingestuft wird. Verbindlich ist das Ergebnis nicht, das sagt die Behörde selbst. Wer danach noch unsicher ist, bekommt dort aber eine kostenlose Orientierung von der zentralen Anlaufstelle. Die eigentliche Aufsicht kann je nach Branche bei einer anderen Behörde liegen, für Banken und Versicherer etwa bei der BaFin.

In Österreich berät die KI-Servicestelle der Medienbehörde RTR seit 2024 Betriebe zum AI Act, ausdrücklich auch kleine. Wer dort die Aufsicht führt, hat Österreich noch nicht festgelegt. Die Schweiz ist kein EU-Mitglied, der AI Act gilt dort nicht direkt. Macht ein Schweizer Unternehmen aber Geschäfte mit Kunden in der EU, kann die Verordnung trotzdem relevant werden.

Wer als Büro-, Marketing- oder Beratungsbetrieb den Hinweis am Chatbot prüft, täuschend echte KI-Inhalte kennzeichnet und sich um die KI-Kompetenz der Beteiligten kümmert, hat die naheliegenden Aufgaben des 2. August meist erledigt. Wer keine KI über Menschen entscheiden lässt, keine Gefühls- oder Gesichtserkennung einsetzt und keine ungeprüften KI-Texte zu öffentlichen Themen veröffentlicht, braucht wegen des Stichtags keinen Compliance-Apparat, auch fünf Wochen später nicht.

Dieser Artikel ersetzt keine Rechtsberatung. Er sortiert die Lage. Wer einen speziellen Fall hat, etwa weil KI in der Personalauswahl oder einer Bonitätsprüfung mitläuft, holt sich besser rechtlichen Rat.

Kurz persönlich

Martin Baier

KI-Strategieberater · Systemischer Coach (ECA) · über 20 Jahre Digitalgeschäft · München

Ich bin Martin. Mich interessiert weniger, was KI alles kann, sondern was sie für Deine Arbeit taugt. Wenn Dich eine Frage aus Deinem Alltag umtreibt, schreib mir gern.

Kontakt →Mehr über mich →Alle Artikel →