Hintergrund
Ab dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der europäischen KI-Verordnung. Entgegen einer verbreiteten Annahme müssen Unternehmen jedoch nicht jeden Text, jedes Bild und jedes Video kennzeichnen, bei dessen Erstellung künstliche Intelligenz eingesetzt wurde.
Art. 50 KI-VO erfasst vielmehr bestimmte, ausdrücklich geregelte Situationen. Welche Anforderungen gelten, hängt insbesondere davon ab, ob ein Unternehmen als Anbieter eines KI-Systems oder als Betreiber auftritt. Die Pflichten gelten dabei nicht nur für Hochrisiko-KI-Systeme.
Keine pauschale Pflicht: Entscheidend ist die Rolle
Art. 50 Abs. 1 und 2 KI-VO richtet sich an Anbieter von KI-Systemen. Anbieter von Systemen, die unmittelbar mit Menschen interagieren – beispielsweise Chatbots, virtuelle Assistenten oder automatisierte Telefonsysteme –, müssen die Systeme grundsätzlich so gestalten, dass betroffene Personen über die Interaktion mit einer KI informiert werden.
Anbieter generativer KI-Systeme müssen außerdem dafür sorgen, dass künstlich erzeugte oder manipulierte Audio-, Bild-, Video- und Textinhalte in einem maschinenlesbaren Format gekennzeichnet und als solche erkennbar sind. Diese technische Anbieterpflicht soll insbesondere die Rückverfolgbarkeit und automatisierte Erkennung synthetischer Inhalte ermöglichen.
Eine Ausnahme kann unter anderem bestehen, wenn das System lediglich unterstützende Standardbearbeitungen übernimmt oder Eingabedaten beziehungsweise deren Bedeutung nicht wesentlich verändert. Eine reine Grammatikprüfung ist daher anders zu beurteilen als die eigenständige Erzeugung eines neuen Textes.
Unternehmen, die vorhandene KI-Systeme für eigene Zwecke einsetzen, sind regelmäßig Betreiber. Für sie sind vor allem Art. 50 Abs. 3 und 4 KI-VO relevant. Art. 50 Abs. 3 betrifft den Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung. Betroffene natürliche Personen müssen über einen solchen Einsatz informiert werden; daneben bleiben insbesondere datenschutzrechtliche Vorgaben zu beachten.
Deepfakes: Offenlegung durch Betreiber
Nach Art. 50 Abs. 4 KI-VO müssen Betreiber offenlegen, wenn sie ein KI-System zur Erzeugung oder Manipulation eines Deepfakes verwenden.
Als Deepfake gilt nach Art. 3 Nr. 60 KI-VO ein durch KI erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlich authentisch oder wahrheitsgemäß erscheinen könnte. Erfasst sein können beispielsweise realistisch wirkende Darstellungen nicht stattgefundener Ereignisse oder künstlich erzeugte Aufnahmen, die den Eindruck eines realen Produkts, einer realen Person oder einer tatsächlichen Situation vermitteln.
Nach dem in der beigefügten Quelle dargestellten Leitlinienentwurf sollen eindeutig fantastische oder physikalisch unmögliche Darstellungen grundsätzlich nicht als Deepfakes eingeordnet werden. Für künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke gelten zudem besondere Vorgaben: Die Offenlegung darf in einer angemessenen Form erfolgen, die Darstellung oder Genuss des Werks nicht beeinträchtigt.
KI-Texte zu Angelegenheiten von öffentlichem Interesse
Auch für Texte sieht Art. 50 Abs. 4 KI-VO keine allgemeine Kennzeichnungspflicht vor. Eine Offenlegung ist insbesondere vorgesehen, wenn ein Betreiber einen durch KI erzeugten oder manipulierten Text mit dem Zweck veröffentlicht, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Entscheidend ist damit nicht allein, ob bei der Texterstellung ein KI-Werkzeug verwendet wurde. Maßgeblich sind vielmehr der Zweck und der Kontext der Veröffentlichung.
Die Offenlegungspflicht gilt nicht, wenn der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Nach dem in der Quelle wiedergegebenen Leitlinienentwurf soll diese Prüfung inhaltlich fundiert sein; eine lediglich oberflächliche Freigabe dürfte danach nicht genügen.
Zeitpunkt und Form der Information
Die nach Art. 50 KI-VO erforderlichen Informationen müssen grundsätzlich spätestens bei der ersten Interaktion oder beim ersten Kontakt mit dem betreffenden Inhalt erteilt werden. Bei einem Chatbot kann dies etwa vor oder zu Beginn der Unterhaltung erfolgen. Bei Audio- oder Videoinhalten kann ein Hinweis zu Beginn des Beitrags erforderlich sein.
Die Information muss klar, deutlich erkennbar und barrierefrei zugänglich sein. Versteckte Hinweise in Allgemeinen Geschäftsbedingungen, kaum lesbare Bildbeschriftungen oder nur sehr kurz eingeblendete Informationen dürften diesen Anforderungen regelmäßig nicht entsprechen.
Was Unternehmen vorbereiten sollten
Eine undifferenzierte interne Vorgabe, nach der ausnahmslos jeder KI-gestützte Inhalt gekennzeichnet werden muss, bildet die Systematik des Art. 50 KI-VO nicht zutreffend ab. Sinnvoller ist ein nachvollziehbarer Prüfprozess, der zwischen den eingesetzten Systemen, den Rollen des Unternehmens und den unterschiedlichen Veröffentlichungsformen unterscheidet.
Dazu können eine Bestandsaufnahme der eingesetzten KI-Systeme, klar definierte Freigabe- und Prüfprozesse, dokumentierte redaktionelle Verantwortlichkeiten sowie verständliche interne KI-Richtlinien gehören. Schulungen können Mitarbeitende zusätzlich für Deepfakes, Veröffentlichungen zu Angelegenheiten von öffentlichem Interesse und weitere relevante KI-Compliance-Anforderungen sensibilisieren.
Auf den Punkt
- Die Transparenzpflichten des Art. 50 KI-VO gelten ab dem 2. August 2026.
- Es besteht keine pauschale Kennzeichnungspflicht für sämtliche mit KI erstellten oder bearbeiteten Inhalte.
- Anbieter und Betreiber von KI-Systemen treffen unterschiedliche Pflichten.
- Betreiber müssen insbesondere mögliche Deepfakes und bestimmte KI-Texte zu Angelegenheiten von öffentlichem Interesse prüfen.
- Menschliche Überprüfung und redaktionelle Verantwortung können bei betroffenen Texten eine gesetzliche Ausnahme begründen.
- Unternehmen sollten rollen- und anwendungsbezogene KI-Prozesse statt einer undifferenzierten Kennzeichnungsregel einführen.
Quelle: https://artificialintelligenceact.eu/de/transparency-rules-article-50/