KI-Kennzeichnungspflichten ab August 2026: EU-AI Act

Neue KI-Kennzeichnungspflichten seit August 2026: Was Unternehmen jetzt beachten müssen

Seit dem 02.08.2026 gelten wesentliche Transparenz- und Kennzeichnungspflichten der europäischen KI-Verordnung, des sogenannten AI Act (Verordnung (EU) 2024/1689). Es gilt jetzt Art. 50 der KI‑VO. Betroffen sind insbesondere Unternehmen, die KI-Systeme anbieten oder einsetzen, um mit Personen zu kommunizieren oder KI-generierte Inhalte zu veröffentlichen.

Die neuen Pflichten betreffen nicht nur große Technologieunternehmen. Auch Unternehmen, Agenturen, Online-Shops, Kanzleien und sonstige Organisationen sollten ihre eingesetzten KI-Tools und veröffentlichten Inhalte überprüfen. Private sind grundsätzlich nicht betroffen, soweit sich die private Nutzung nicht in den beruflichen oder kommerziellen Bereich erstreckt. Jedoch verlangen Plattformen wie Facebook, Instagram und Co. unabhängig von etwaigen EU-Vorschriften die Kennzeichnung realistischer KI-Inhalte in ihren Nutzungsbedingungen ohnehin. Bei Verstößen drohen daher neben möglichen gesetzlichen Folgen auch plattforminterne Maßnahmen, etwa eine Kennzeichnung durch die Plattform, eingeschränkte Reichweite oder die Entfernung des Inhalts.

Kennzeichnung bei Interaktion mit KI

Wer in seinem Unternehmen ein KI-System einsetzt, das unmittelbar mit Menschen kommuniziert – bspw. einen Chatbot auf der Website oder einen KI-gestützten Telefonassistenten –, muss die betroffene Person grundsätzlich darüber informieren, dass sie mit einer KI interagiert. Hier ist also im Beispielfall jeder Nutzer der Website gemeint, d. h. eine Kennzeichnung muss auch direkt auf der Website an einer entsprechend gut sichtbaren Stelle im Kontext der Verwendung des Chatbots erfolgen. Die Information muss klar, verständlich und spätestens bei Beginn der Interaktion erfolgen. Praktisch genügt etwa ein gut sichtbarer Hinweis wie: “Sie kommunizieren mit einem KI-gestützten Assistenten.” Ausnahmen können gelten, wenn der Einsatz von KI aus dem Kontext offensichtlich ist oder der Einsatz gesetzlich zur Aufdeckung bzw. Verfolgung von Straftaten zugelassen ist.

Rechtsgrundlagen: Art. 50 Abs. 1 KI-VO

Kennzeichnung KI-generierter oder manipulierter Inhalte

Besondere Transparenzpflichten gelten für sogenannte Deepfakes. Darunter fallen künstlich erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten oder Ereignissen ähneln und dadurch fälschlich authentisch oder wahr erscheinen können. Wer solche Inhalte einsetzt oder veröffentlicht, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Die Kennzeichnung muss klar erkennbar sein und spätestens bei der ersten Wahrnehmung des Inhalts erfolgen.

In der Praxis kommen etwa folgende Hinweise in Betracht:

• „KI-generiert“
• „KI-bearbeitet“
• „KI-manipulierter Inhalt“
• „AI generated“
• „AI modified“

Bei Bildern und Videos sollte der Hinweis möglichst unmittelbar am Inhalt oder in dessen unmittelbarer Nähe angebracht werden. Bei Audioinhalten kann eine eindeutige Ansage zu Beginn sinnvoll sein.

Entscheidend ist nicht allein, ob ein Inhalt unter Einsatz von KI erstellt wurde. Maßgeblich ist vielmehr, ob der Inhalt wegen seines realitätsnahen Erscheinungsbilds den Eindruck erwecken kann, eine authentische Darstellung zu sein. Beispielsweise wird ein vollständig KI-erzeugtes Produktfoto, das wie eine echte Fotografie eines Produktes in einer realen Umgebung wirkt, mit großer Wahrscheinlichkeit kennzeichnungspflichtig sein.

Regelmäßig nicht erfasst sind dagegen rein stilisierte, offensichtlich künstliche oder klar als technische Visualisierung erkennbare Werbegrafiken, soweit sie nicht den Eindruck einer authentischen Aufnahme oder eines tatsächlichen Ereignisses vermitteln. Für künstlerische, satirische, fiktionale oder vergleichbare Inhalte bestehen Erleichterungen. Auch dort ist jedoch eine Offenlegung erforderlich, wenn dies zur Vermeidung einer Irreführung erforderlich ist; die Darstellung darf dabei die Nutzung und den Genuss des Werks nicht unangemessen beeinträchtigen.

Unternehmen sollten insbesondere bei Werbung, Social-Media-Beiträgen, Recruiting-Videos, Produktdarstellungen und Testimonials prüfen, ob KI-generierte oder KI-bearbeitete Inhalte eingesetzt werden, und etwaige Kennzeichnungspflichten bestenfalls durch einen Anwalt prüfen lassen. Wer selbst von einem möglichen Deepfake betroffen ist oder einen solchen Inhalt entdeckt, sollte Beweise sichern und die rechtlichen Handlungsoptionen anwaltlich prüfen lassen.

Rechtsgrundlagen: Art. 3 Nr. 60, Art. 50 Abs. 4 KI-VO

KI-generierte Texte zu Themen von öffentlichem Interesse

Auch für bestimmte Texte bestehen Kennzeichnungspflichten. Werden KI-generierte oder wesentlich KI-manipulierte Texte veröffentlicht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, muss grundsätzlich offengelegt werden, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Das kann etwa politische, gesellschaftliche, wirtschaftliche, rechtliche oder sonstige öffentliche Debatten betreffen. Nicht jede mit KI unterstützte Pressemitteilung, jeder Blogbeitrag oder Social-Media-Post fällt jedoch automatisch unter diese Pflicht.

Keine Kennzeichnung ist erforderlich, wenn

• der Inhalt vor der Veröffentlichung menschlich überprüft oder redaktionell kontrolliert wurde,
• eine natürliche oder juristische Person, die die redaktionelle Verantwortung für die Veröffentlichung übernimmt und
• diese verantwortliche Person benannt ist.

Für Unternehmen bedeutet dies: KI darf als Arbeitsmittel genutzt werden. Ergebnisse sollten jedoch vor einer Veröffentlichung sorgfältig geprüft, überarbeitet und durch eine verantwortliche Person freigegeben werden. Dies ist besonders wichtig bei öffentlichen Stellungnahmen, Krisenkommunikation, Beiträgen mit politischem Bezug oder Informationen mit erheblicher Außenwirkung.

Rechtsgrundlagen: Art. 50 Abs. 4 KI-VO

Technische Kennzeichnung: Pflicht vor allem für Anbieter von KI-Systemen

Anbieter bestimmter KI-Systeme, die synthetische Bild-, Ton-, Video- oder Textinhalte erzeugen, müssen deren Ausgaben grundsätzlich in einem maschinenlesbaren Format kennzeichnen. Dadurch soll technisch erkennbar bleiben, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht richtet sich in erster Linie an die Anbieter der jeweiligen KI‑Systeme. Unternehmen, die solche Systeme lediglich einsetzen, sollten dennoch prüfen,

• ob das verwendete KI-Tool technische Herkunftskennzeichnungen unterstützt,
• ob diese Kennzeichnungen aktiviert sind,
• ob sie bei der weiteren Bearbeitung oder Veröffentlichung verloren gehen und
• ob für die konkrete Veröffentlichung zusätzlich eine sichtbare Kennzeichnung erforderlich ist.

Gerade bei der Weiterverwendung von KI-generierten Bildern, Videos oder Audiodateien sollte nicht darauf vertraut werden, dass eine technische Kennzeichnung allein alle Transparenzpflichten erfüllt.

Rechtsgrundlagen: Art. 50 Abs. 2, 5 KI-VO

Sanktionen und Bußgelder

Verstöße gegen die Transparenz- und Kennzeichnungspflichten des Art. 50 EU-AI Act können erheblich sanktioniert werden. Die Verordnung sieht hierfür Geldbußen von bis zu 15 Mio. Euro oder bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, wobei der jeweils höhere Betrag maßgeblich ist. Die konkrete Höhe der Geldbuße richtet sich nach den Umständen des Einzelfalls. Für kleine und mittlere Unternehmen gelten im Einzelfall besondere Vorgaben zur Verhältnismäßigkeit. Das schützt jedoch nicht vor Sanktionen. Neben Bußgeldern können je nach Sachverhalt weitere Risiken bestehen, etwa datenschutzrechtliche Maßnahmen, wettbewerbsrechtliche Ansprüche, Reputationsschäden oder zivilrechtliche Haftung.

Daher empfiehlt es sich, bei Unsicherheiten über die Kennzeichnungspflichten oder den Einsatz KI-generierter Inhalte frühzeitig rechtlichen Rat einzuholen. So lassen sich Bußgelder, behördliche Maßnahmen und unnötige rechtliche Risiken vermeiden.

Rechtsgrundlagen: Art. 99 KI-VO

Kurz-Checkliste: Was sollten Unternehmen nun direkt prüfen?

1. KI-Inventar erstellen: Welche KI-Tools werden im Unternehmen eingesetzt, durch wen und zu welchem Zweck?
2. Einsatzfälle bewerten: Gibt es Chatbots, Telefonassistenten, KI-generierte Bilder, Videos, Audiodateien oder öffentlichkeitsbezogene KI-Texte?
3. Kennzeichnungstexte vorbereiten: Klare Hinweise für KI-Interaktionen, Deepfakes und gegebenenfalls veröffentlichte KI-Inhalte festlegen.
4. EU-AI-Icons herunterladen oder andere Kennzeichnungsicons vorbereiten: Die EU-AI-Icons finden sich auf der Seite der Europäischen Kommission (https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content); es besteht allerdings keine Pflicht zur Nutzung.
5. Freigabeprozess einführen: KI-gestützte externe Kommunikation nur nach menschlicher Prüfung und dokumentierter Verantwortungsübernahme veröffentlichen.

Fazit

Der EU-AI Act macht die Nutzung und das Zurverfügungstellen von KI-Systemen nicht unzulässig. Er verlangt aber einen verantwortungsvollen, transparenten und nachvollziehbaren Einsatz. Unternehmen sollten jetzt prüfen, welche KI-Systeme und KI-generierten Inhalte sie verwenden, ob Kennzeichnungen erforderlich sind und ob interne Regeln sowie auch ausreichende KI-Kompetenz (Art. 4 KI-VO) vorhanden sind. Die rechtliche Bewertung hängt stets vom konkreten Einsatzfall ab. Insbesondere bei Chatbots, KI-generierter Werbung, Deepfakes, automatisierten Entscheidungen, Bewerbungsverfahren oder der Verarbeitung vertraulicher Daten (Art. 5 KI-VO) empfiehlt sich eine frühzeitige rechtliche Prüfung.

Wir unterstützen Sie gerne bei der Überprüfung Ihrer KI-Einsatzfälle, der Erstellung einer KI-Richtlinie, der Gestaltung rechtssicherer Kennzeichnungstexte sowie bei datenschutz- und berufsrechtlichen Fragen rund um die KI und Ihr Unternehmen. Sollten Sie als Privatperson von einem KI-bezogenen Eingriff betroffen sein, melden Sie sich genauso bei uns zur Prüfung Ihres Anliegens.

Bearbeiterin: Laetitia-M. Berthold (Dipl. iur., LL.B.), Wissenschaftliche Mitarbeiterin