Artikel 50 KI-VO gilt: Neue Transparenzpflichten für Chatbots, Deepfakes und KI-Inhalte
Veröffentlicht am 02.08.2026
Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der europäischen KI-Verordnung. Die Vorschrift betrifft nicht nur große Entwickler von KI-Modellen. Auch Unternehmen, Behörden, Webseitenbetreiber, Medienhäuser und andere Organisationen können erfasst werden, wenn sie Chatbots einsetzen, synthetische Inhalte erzeugen oder KI-generierte Texte veröffentlichen.
Das Ziel ist vergleichsweise einfach: Menschen sollen erkennen können, wann sie mit einer KI kommunizieren oder wann Inhalte künstlich erzeugt beziehungsweise manipuliert wurden. Artikel 50 richtet sich damit insbesondere gegen Täuschung, Identitätsmissbrauch, Desinformation und Manipulation.
Die Europäische Kommission hat kurz vor dem Geltungsbeginn zusätzliche Leitlinien veröffentlicht. Sie sollen Unternehmen und Behörden dabei helfen, die Vorgaben einheitlich und praktisch umzusetzen.
Anbieter und Betreiber: Wer ist verantwortlich?
Die KI-Verordnung unterscheidet zwischen Anbietern und Betreibern.
Ein Anbieter ist vereinfacht gesagt die natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter dem eigenen Namen oder der eigenen Marke auf den Markt bringt. Ein Betreiber verwendet ein KI-System dagegen in eigener Verantwortung. Eine rein private und nicht berufliche Nutzung fällt grundsätzlich nicht unter den Betreiberbegriff.
Ein Unternehmen kann dabei mehrere Rollen gleichzeitig einnehmen. Entwickelt es beispielsweise einen eigenen Kundenservice-Chatbot und bietet diesen unter eigener Marke an, kann es Anbieter sein. Setzt es einen externen KI-Dienst auf seiner Webseite ein, ist es in der Regel Betreiber. Wird ein fremdes System wesentlich verändert oder unter dem eigenen Namen angeboten, kann sich die rechtliche Einordnung erneut verschieben.
Vier Bereiche stehen im Mittelpunkt
Artikel 50 erfasst im Kern vier Situationen:
- Menschen interagieren direkt mit einer KI.
- Ein KI-System erzeugt synthetische Texte, Bilder, Audios oder Videos.
- Emotionserkennung oder biometrische Kategorisierung wird eingesetzt.
- Deepfakes oder bestimmte KI-generierte Texte werden veröffentlicht.
Dabei arbeitet die Verordnung mit einem zweistufigen Modell: Anbieter müssen technische Transparenz ermöglichen, Betreiber müssen in bestimmten Fällen sichtbar informieren.
Chatbots müssen sich als KI zu erkennen geben
Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen ihre Systeme so gestalten, dass Nutzer darüber informiert werden, dass sie mit einer KI kommunizieren.
Das betrifft beispielsweise:
- Kundenservice-Chatbots,
- KI-Assistenten,
- digitale Avatare,
- Sprachassistenten,
- dialogfähige KI-Agenten.
Eine Kennzeichnung kann etwa mit einem Hinweis wie „Sie kommunizieren mit einem KI-Assistenten" erfolgen. Die Information muss spätestens zu Beginn der ersten Interaktion klar und verständlich bereitgestellt werden.
Eine Ausnahme besteht, wenn für eine angemessen informierte, aufmerksame und verständige Person ohnehin offensichtlich ist, dass sie mit einer KI interagiert. Nach den Leitlinien der Kommission soll diese Ausnahme jedoch eher eng ausgelegt werden. Systeme, die lediglich im Hintergrund arbeiten oder ausschließlich zwischen Maschinen kommunizieren, fallen nicht unter diese konkrete Informationspflicht.
KI-generierte Inhalte brauchen eine technische Kennzeichnung
Eine besonders weitreichende Verpflichtung betrifft Anbieter generativer KI-Systeme. Erzeugen diese synthetische Audio-, Bild-, Video- oder Textinhalte, müssen die Ausgaben grundsätzlich in einem maschinenlesbaren Format gekennzeichnet werden.
Die Kennzeichnung soll es ermöglichen, den künstlichen Ursprung oder eine nachträgliche Manipulation technisch festzustellen. In den Erwägungsgründen nennt die Verordnung unter anderem:
- digitale Wasserzeichen,
- Metadaten,
- kryptografische Herkunftsnachweise,
- Fingerabdrücke,
- Protokollierungsverfahren.
Die eingesetzten Lösungen sollen – soweit technisch möglich – wirksam, interoperabel, robust und zuverlässig sein. Gleichzeitig dürfen Besonderheiten der jeweiligen Medienart, technische Grenzen, Kosten und der allgemein anerkannte Stand der Technik berücksichtigt werden.
Nicht jede kleine KI-gestützte Bearbeitung löst diese Pflicht aus. Ausgenommen sind insbesondere Systeme, die lediglich eine unterstützende Funktion bei einer üblichen Standardbearbeitung übernehmen oder die eingegebenen Daten beziehungsweise deren Bedeutung nicht wesentlich verändern. Eine klassische Rechtschreibkorrektur ist daher anders zu bewerten als die vollständige Generierung eines Bildes, Videos oder Artikels.
Emotionserkennung und biometrische Kategorisierung
Wer ein zulässiges Emotionserkennungssystem oder ein System zur biometrischen Kategorisierung betreibt, muss betroffene Personen über dessen Einsatz informieren.
Ein Emotionserkennungssystem versucht, anhand biometrischer Daten Emotionen oder Absichten einer Person zu erkennen oder abzuleiten. Biometrische Kategorisierung ordnet Menschen auf Grundlage biometrischer Merkmale bestimmten Kategorien zu.
Die Informationspflicht aus Artikel 50 ist allerdings keine Erlaubnis für den Einsatz solcher Systeme. Andere Bestimmungen der KI-Verordnung, die Datenschutz-Grundverordnung und nationale Vorschriften gelten zusätzlich. Bestimmte Formen der Emotionserkennung sind etwa am Arbeitsplatz oder in Bildungseinrichtungen grundsätzlich verboten, sofern keine medizinischen oder sicherheitsbezogenen Ausnahmen greifen.
Transparenz allein macht einen ansonsten unzulässigen Einsatz also nicht legal. Genau dies stellt auch die KI-Verordnung ausdrücklich klar.
Deepfakes müssen sichtbar offengelegt werden
Betreiber eines KI-Systems müssen kenntlich machen, wenn sie Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die als Deepfake einzustufen sind.
Als Deepfake gilt ein KI-generierter oder manipulierter Bild-, Audio- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise echt oder wahr erscheinen kann.
Hier reicht es nicht aus, dass irgendwo unsichtbare Metadaten eingebettet sind. Die Offenlegung muss für Menschen wahrnehmbar sein – beispielsweise durch einen sichtbaren Hinweis im Bild, eine Einblendung im Video oder eine hörbare Kennzeichnung bei Audioinhalten. Die Kommission stellt klar, dass Betreiber ihre sichtbare Offenlegungspflicht nicht allein durch die technische Kennzeichnung des Anbieters erfüllen können.
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Regel. Auch dort muss der Einsatz künstlich erzeugter oder manipulierter Inhalte offengelegt werden. Der Hinweis darf jedoch so gestaltet sein, dass er die Darstellung oder den Genuss des Werks nicht wesentlich beeinträchtigt.
Was Artikel 50 für Blogs und Nachrichtenportale bedeutet
Für Medien, Blogs und KI-News-Webseiten ist vor allem die Regel zu KI-generierten Texten wichtig.
Betreiber müssen offenlegen, wenn ein KI-System einen Text erzeugt oder wesentlich manipuliert hat und dieser veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
Dazu können nach den aktuellen Leitlinien unter anderem politische, wirtschaftliche, wissenschaftliche, kulturelle und gesellschaftliche Entwicklungen gehören, sofern sie Gegenstand einer öffentlichen Debatte sein können. Ein Nachrichtenartikel über KI-Regulierung, neue KI-Modelle oder wirtschaftliche Folgen der Technologie dürfte daher regelmäßig in diesen Bereich fallen.
Es gibt jedoch eine wichtige Ausnahme: Eine ausdrückliche KI-Kennzeichnung ist nach Artikel 50 Absatz 4 nicht erforderlich, wenn
- der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und
- eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Für eine Nachrichtenredaktion bedeutet das: Ein bloßes automatisches Veröffentlichen eines KI-Textes ist problematisch. Wird der Entwurf dagegen von einer fachkundigen Person geprüft, inhaltlich überarbeitet, auf Quellen und Tatsachen kontrolliert und anschließend redaktionell verantwortet, kann die Ausnahme greifen.
Die Kommission versteht unter menschlicher Überprüfung eine bewusste inhaltliche Prüfung durch Personen mit ausreichender Sachkenntnis. Redaktionelle Kontrolle setzt voraus, dass eine verantwortliche Stelle den Text genehmigen, verändern oder ablehnen kann.
Unabhängig von der gesetzlichen Ausnahme kann ein freiwilliger Hinweis wie „Dieser Artikel wurde mit Unterstützung eines KI-Systems erstellt und redaktionell geprüft" das Vertrauen der Leserschaft stärken.
Zeitpunkt und Gestaltung der Hinweise
Die Informationen nach Artikel 50 müssen spätestens bei der ersten Interaktion beziehungsweise der ersten Konfrontation mit dem System oder Inhalt bereitgestellt werden.
Sie müssen:
- klar und eindeutig,
- verständlich,
- wahrnehmbar,
- barrierefrei zugänglich
sein. Ein kaum lesbarer Hinweis im Kleingedruckten oder eine versteckte Information in den Nutzungsbedingungen dürfte diesen Anforderungen regelmäßig nicht gerecht werden.
Die konkrete Gestaltung hängt vom jeweiligen Medium ab. Bei einem Chatbot kann ein Hinweis im Begrüßungsfenster geeignet sein. Bei einem Video kann eine Einblendung notwendig werden, bei einem Audioinhalt ein hörbarer Hinweis und bei einem veröffentlichten Text eine Kennzeichnung direkt am Beitrag.
Hohe Bußgelder bei Verstößen
Verstöße gegen die Transparenzpflichten aus Artikel 50 können mit erheblichen Sanktionen belegt werden. Die KI-Verordnung sieht grundsätzlich Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor. Maßgeblich ist grundsätzlich der höhere Betrag.
Für kleine und mittlere Unternehmen einschließlich Start-ups gilt dagegen jeweils der niedrigere der beiden Höchstbeträge. Bei der konkreten Sanktion müssen unter anderem Schwere, Dauer, Folgen, Vorsatz oder Fahrlässigkeit sowie die Zusammenarbeit mit den Behörden berücksichtigt werden.
Was Unternehmen jetzt prüfen sollten
Unternehmen sollten zunächst dokumentieren, welche KI-Systeme sie einsetzen und welche Rolle sie dabei einnehmen. Anschließend sollte für jedes System geprüft werden:
- Kommuniziert die KI direkt mit Menschen?
- Werden Bilder, Videos, Audios oder Texte erzeugt?
- Können die Ergebnisse technisch als KI-Inhalte erkannt werden?
- Werden Deepfakes oder Texte von öffentlichem Interesse veröffentlicht?
- Gibt es eine nachweisbare menschliche und redaktionelle Kontrolle?
- Sind alle Hinweise klar, barrierefrei und rechtzeitig sichtbar?
Die Kommission hat zusätzlich zu ihren Leitlinien einen Verhaltenskodex für die Kennzeichnung KI-generierter Inhalte veröffentlicht. Unternehmen müssen diesem Kodex nicht zwingend folgen, müssen bei abweichenden Lösungen aber eine vergleichbar angemessene Umsetzung der gesetzlichen Pflichten nachweisen können.
Fazit
Artikel 50 der KI-Verordnung macht Transparenz zu einer festen Voraussetzung für den professionellen Einsatz bestimmter KI-Systeme. Chatbots sollen sich als Maschinen zu erkennen geben, generative Systeme brauchen technische Herkunftsmerkmale und Deepfakes müssen sichtbar gekennzeichnet werden.
Für Blogs und Nachrichtenportale ist vor allem die redaktionelle Kontrolle entscheidend. KI darf weiterhin als Werkzeug für Recherche, Strukturierung oder Texterstellung eingesetzt werden. Wer Inhalte zu öffentlichen Themen veröffentlicht, sollte jedoch sicherstellen, dass ein Mensch sie fachlich prüft und eine klar benannte Person oder Organisation die redaktionelle Verantwortung übernimmt.
Artikel 50 verlangt damit nicht das Ende KI-gestützter Inhalte – aber das Ende einer Veröffentlichung ohne erkennbare Verantwortung und nachvollziehbare Herkunft.
Hinweis: Der Beitrag dient der allgemeinen Information und ersetzt keine rechtliche Beratung im Einzelfall.
