Seit dem 2. August 2026 gilt die Transparenzpflicht gem. AI Act und Deepfakes, die öffentlich gemacht werden, sind kennzeichnungspflichtig.
Deswegen halten wir, als Verband, der die Stimmen in der Audiobranche vertritt, es für angebracht, eine Interpretation der Vorgaben zu liefern, sodass Betreiber, die KI-manipuliertes Audiomaterial veröffentlichen, eine Richtlinie haben und Sprecher:innen sowie Verbraucher:innen den Beschwerdeweg aufzuzeigen, wenn die Kennzeichnungspflicht widerrechtlich nicht eingehalten wird.
WERDE ICH HIER GETÄUSCHT?
Transparenz
Nach Art. 3 Nr. 60 KI Verordnung sind unter Deepfakes durch KI generierte oder manipulierte Bild-, Ton- oder Videoinhalte zu verstehen, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln, die einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen können.
Die Leitlinien der EU stellen außerdem klar, dass auch realistisches, KI-generiertes Audio erfasst ist, das menschlich wirkt, selbst wenn es keiner konkret identifizierbaren Person zugeordnet werden kann, sofern es im konkreten Format den Eindruck von Authentizität erzeugt (siehe „Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Artikel 50 der Verordnung (EU) 2024/1689 (das „KI-Gesetz“).
Daraus folgt für uns, dass synthetisches Audio, das einer menschlichen Stimme ähnelt und bei den Zuhörenden den Anschein erweckt, menschlich zu sein, als KI-generiert gekennzeichnet werden muss.
Deepfakes sind kennzeichnungspflichtig.
Ausgenommen hiervon sind nur:
- Einsatz von Strafverfolgungsbehörden zur Aufdeckung und Verhütung von Straftaten u.ä.
- in Unterstützender Funktion der Standardbearbeitung
also z.B. bei reiner Standard-Tonbearbeitung, bei welcher KI unterstützend angewendet wird, um Sprechpausen rauszuschneiden, Störgeräusche rauszufiltern o. Ä.
Eingeschränkt gekennzeichnet werden müssen nur:
- offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Werke oder Programme
In diesem Fall muss zwar ebenso eine Kennzeichnung stattfinden, diese darf jedoch auf eine Weise erfolgen, welche die Darstellung oder der Genuss des Werks nicht beeinträchtigt. Das bedeutet, dass bei derlei Werken / Programmen eine Kennzeichnung zum Beispiel im Vor- oder Abspann ausreichen kann.
Werbung und journalistische Beiträge sind regelmäßig von dieser Ausnahmeregelung nicht erfasst. Diese müssen daher nach den Maßstäben des Art. 50 KI-VO gekennzeichnet werden.
Die Transparenzpflicht gilt für Betreiber und Anbieter auf verschiedene Weise.
Betreiber
Betreiber sind diejenigen, die synthetische Inhalte mittels KI-Technologie (sowohl selbst entwickelt als auch von externem Anbieter) erstellen.
Bei einem Werbespot ist dies in der Regel ein Tonstudio, das synthetisches Audio erstellt und weiterleitet oder eine (Film-)Produktionsfirma, die synthetische (Bewegt-)Bilder erstellt und weiterleitet.
Die Werbeagentur ist meist nicht der technische und operative Betreiber (Systemanwender), sofern sie nicht selbst aktiv Inhalte generiert. Allerdings ist sie verpflichtet, bereits vorhandene Kennzeichnungen nicht zu entfernen. So auch die Schaltagentur, die Sender und die Plattformen.
Die Marke ist lediglich beauftragende Partei und damit nicht als Betreiberin verantwortlich für die Kennzeichnungspflicht.
Anbieter
Anbieter sind diejenigen, die ein KI-System entwickeln oder anbieten. Also zum Beispiel ein Softwareunternehmen, das eine KI zur Generierung von „KI-Stimmen“ entwickelt und als Dienstleistung anbietet.
Betreiber
Klarer Hinweis
Betreiber müssen die synthetischen Inhalte so kennzeichnen, dass Verbraucher:innen beim Konsum klar und deutlich informiert sind, dass diese künstlich erzeugt oder manipuliert wurden.
Ein versteckter Hinweis in den Metadaten oder in einem Begleittext reichen also regelmäßig nicht aus.
Ebenso reicht ein Hinweis, aus welchem nicht deutlich wird, welche Anteile (Stimme / Musik / bestimmte Bilder…) KI-generiert sind regelmäßig nicht aus, da hierdurch nicht klar und deutlich wird, worin die Täuschung besteht.
Zeitpunkt (Exposition)
Die Kennzeichnung muss spätestens in dem Moment erfolgen, in welchem der synthetische Inhalt ausgespielt wird. Also vor dem Beginn des Deepfakes oder spätestens beim ersten öffentlichen Einsatz. Es kann also eine Ansage vor dem Einsatz eines synthetischen Audios auf die KI-Manipulation hinweisen oder das Audio muss als allererstes inhaltlich darauf hinweisen, dass es selbst KI-generiert ist, bevor es andere Inhalte transportiert.
Form (auditiv / visuell)
Die Kennzeichnung muss dem typischen Mediennutzungsverhalten entsprechen.
Das heißt, auditive Deepfakes müssen auditiv gekennzeichnet sein, visuelle Deepfakes visuell und audiovisuelle Inhalte sowohl auditiv, als auch visuell.
Ein schriftlicher Hinweis auf eine künstlich erzeugte oder manipulierte Stimme reicht also regelmäßig nicht aus.
Hierdurch wird gewährleistet, dass das typische Nutzungsverhalten der durchschnittlichen Konsument:innen zugrunde gelegt wird, die die Werbung nicht immer aufmerksam und vollständig betrachten, sondern oft mit abgewandtem Blick zuhören, kurz etwas in der Küche erledigen, während sie die Werbung dabei weiter hören usw.
Anbieter
Anbieter von KI-Systemen müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind (z. B. durch technische Wasserzeichen oder Metadaten).
KI-Systeme, die direkt mit Menschen interagieren (z. B. Kundenservice-Chatbots oder Voicebots), sind so zu gestalten, dass Nutzer:innen informiert sind, dass sie mit einer KI sprechen/schreiben.
Wird eine KI-generiertes synthetisches Audio verwendet, muss vor oder mit dem ersten Einsatz dieses Audios ein hörbarer Hinweis ausgespielt werden.
Der VDS schlägt folgende Formulierungen für die Ansagen vor, um alle Transparenzpflichten ordnungsgemäß zu erfüllen:
„Diese Stimme wurde KI-generiert.“
„Die Stimme in dieser Produktion ist KI-generiert.“
„Was Sie nun hören wurde von einer KI generiert.“
„Die nachfolgende Stimme ist nicht menschlich, sondern wurde von einer KI generiert.“
Eine mangelnde Kennzeichnung wird als Gesetzesverstoß gewertet und bedarf – anders als eine Verletzung des Urheberrechts – keiner direkt geschädigten Person, um diesen Verstoß zu sanktionieren. Die Bundesnetzagentur ist unter anderem dafür zuständig, diese Verstöße zu prüfen, und Zuhörer:innen können sie dort melden.
Wie dies funktioniert erfährst du unten.
Ein Verstoß kann mit Bußgeldern von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden.
SAG MAL, HÖR ICH DA RICHTIG?
Verstöße melden
Kennst du das?
Du sitzt entspannt vor deinem Abendprogramm und plötzlich wird dir ein Spot ausgespielt, bei dem unten links klein „Stimme KI-generiert“ steht? Du hättest es gar nicht gemerkt, weil du gerade den Teebeutel aus deiner Tasse friemelst, wenn dein:e Partner:in dich nicht darauf hingewiesen hätte?
Du schaust den Werbeblock, hörst, was die Kolleg:innen gerade so schön vertonen und wirst plötzlich mit einer unangenehmen Stimme mit sehr merkwürdiger Sprechweise konfrontiert und denkst dir: Das war doch eine KI! Aber du wurdest überhaupt nicht darauf hingewiesen, dass dir gerade ein Deepfake untergejubelt wird?
Und langsam reicht’s dir?
Du hast genug davon, als Verbraucher:in getäuscht zu werden, ohne dass dir wenigstens transparent gemacht wird, dass dir gerade etwas als echt vorgegaukelt wird, was gar nicht echt ist?
Du möchtest als Sprecher:in die Kunst, das Handwerk und deinen Beruf schützen und aus der Ohnmacht ob dieses KI-Hypes in die Selbstwirksamkeit kommen?
Du möchtest scheinbar übermächtigen Konzernen, die geltendes Recht nicht einhalten, Einhalt gebieten und diese zu Verantwortung ziehen?
Dann melde den Verstoß bei der Bundesnetzagentur KI-Beschwerdestelle. Jedes Mal. Ausnahmslos.
Bis die Betreiber die Kennzeichnungspflicht genauso ernst nehmen und korrekt umsetzen wie das „Zu Risiken und Nebenwirkungen…“ bei der Werbung für Medikamente.
Das Ganze geht schnell und unkompliziert und dauert mit den VDS-Templates keine 5 Minuten.
Öffne das Formular KI-Beschwerdestelle auf der Website der Bundesnetzagentur.
Wähle aus, dass du Verbraucher bist.
Gib als Betreff KI-Transparenzpflichten an.
Lasse das nächste Feld frei und wähle dann Artikel 50 KI-Verordnung und die Unterpunkte:
4) Transparenzpflichten für Betreiber: Kennzeichnung synthetischer Inhalte
und
5) Transparenzpflichten für Anbieter und Betreiber: Transparenz bei Erstkontakt und Barrierefreiheit.
Lasse das nächste Feld wieder frei und nutze unsere vorgefertigten Texte unten für deine Beschwerde im Freitextfeld.
Natürlich kannst du auch einen eigenen Text formulieren.
Wenn du magst kannst du noch einen Screenshot oder ein Foto anhängen oder eine Videoaufnahme bei dir für etwaige Nachfragen vorhalten. Dies ist hilfreich, jedoch als Verbraucher:in nicht verpflichtend. Regulierungsbehörden können die ausgespielten Inhalte bei den Plattformen selbst abfragen.
Abschicken. Die Welt besser gemacht. Fertig.
Die Eingangsbestätigung per Email kann ggf. ein paar Tage auf sich warten lassen.
Kopiere diesen Text in das Freitextfeld, ersetze die Daten in Klammern mit deinem Erlebnis und setze den Textbaustein, der auf deinen Fall zutrifft, aus unseren vorformulierten Texten unten ein.
Gemäß Art. 50 i. V. m. Art. 3 Nr. 60 der EU-KI-Verordnung (AI Act) gilt seit dem 02.08.2026 eine strikte Transparenzpflicht für synthetische Inhalte. Demnach müssen realistisch wirkende, KI-generierte Audioinhalte (Deepfakes), inkl. KI-Stimmen, für Verbraucher eindeutig als solche gekennzeichnet werden.
Sachverhalt:
Datum / Uhrzeit: [XX.XX.XXXX, XX:XX Uhr]
Plattform / Kanal: [z. B. Werbespot auf Amazon während der Sendung „The White Lotus“]
Marke / Werbetreibender: [Markenname]
[Hier den Textbausteinen für deinen Fall einfügen]
Durch das Fehlen der vorgeschriebenen Kennzeichnung liegt ein Verstoß gegen die Transparenzpflichten der KI-Verordnung vor.
Als Verbraucher:in erlebe ich im Alltag zunehmend, wie synthetische Stimmen ohne jegliche Transparenz in der Werbung eingesetzt werden. In dieser frühen Phase nach Inkrafttreten der EU-KI-Verordnung prägt das Verwaltungshandeln Ihrer Behörde maßgeblich, ob die gesetzlichen Transparenzpflichten in der Praxis zur Selbstverständlichkeit werden (wie bei „Zu Risiken und Nebenwirkungen…“) oder wirkungslos verpuffen. Ohne konsequentes Einschreiten von Beginn an droht eine schleichende Gewöhnung an irreführende Praktiken.
Ich ersuche Sie daher ausdrücklich, den Sachverhalt aufsichtsrechtlich zu prüfen und die erforderlichen Maßnahmen gegen den Betreiber einzuleiten, um die Einhaltung der gesetzlichen Kennzeichnungspflicht durchzusetzen.
Vielen Dank.
Kopiere diesen Textbaustein in deine Beschwerde, wenn du davon ausgehst, dass eine KI-generierte Stimme eingesetzt wurde, aber keinerlei Kennzeichnung stattgefunden hat.
Die im Werbespot eingesetzte, wahrnehmbar KI-generierte Stimme wurde in keiner Weise als synthetischer Inhalt deklariert. Es fehlt sowohl eine auditive als auch eine visuelle Kennzeichnung gemäß Art. 50 KI-VO.
Kopiere diesen Textbaustein in deine Beschwerde, wenn eine KI-generierte Stimme nur durch einen schriftlichen Hinweis gekennzeichnet wurde, aber nicht durch eine hörbare Ansage darauf hingewiesen wurde. Ersetze den Teil in Klammern durch den Hinweistext, der dir angezeigt wurde.
Der Spot enthält zwar den schriftlichen Hinweis [„Stimme KI-generiert“], verzichtet jedoch auf eine auditive Deklaration. Diese reine Textkennzeichnung eines Deepfakes erfüllt die Vorgaben des Art. 50 KI-VO aus folgenden Gründen nicht:
Irreführung bei typischer Mediennutzung: Auch sehende Verbraucher konsumieren Werbung im Alltag häufig beiläufig oder mit abgewandtem Blick. Wer den Spot rein auditiv wahrnimmt, wird mangels akustischen Hinweises über den synthetischen Ursprung und damit den Deepfake getäuscht.
UWG-Konformität und BGH-Rechtsprechung: Nach § 5 UWG bestimmen die realen Wahrnehmungsbedingungen der Zielgruppe die Anforderungen an Pflichtangaben. Der BGH hat wiederholt entschieden, dass Aufklärungshinweise rechtlich unbeachtlich sind, wenn sie nach dem typischen Konsumverhalten des Publikums untergehen oder den primären Wahrnehmungskanal (hier: auditiv) verfehlen.
Kopiere diesen Textbaustein in deine Beschwerde, wenn der Hinweis auf eine KI-generierte Stimme erst ertönt, nachdem die Stimme bereits hörbar war.
Der auditive Deepfake wurde zwar gekennzeichnet, der Hinweis erfolgte jedoch erst nach der ersten Exposition [erst im Nachspann / am Ende des Spots]. Dies verstößt direkt gegen Art. 50 Abs. 5 KI-VO, wonach die Transparenzinformation spätestens zu dem Zeitpunkt bereitgestellt werden muss, an dem Verbraucher dem synthetischen Element erstmals ausgesetzt sind.
Kopiere diesen Textbaustein in deine Beschwerde, wenn du den Hinweis auf die KI-generierte Stimme nicht verstehen konntest. Wähle in der Klammer die zutreffenden Parameter aus, indem du die nicht zutreffenden löschst.
Die KI-Stimme wurde zwar auditiv gekennzeichnet, der Hinweis war jedoch [durch hohe Sprachgeschwindigkeit / undeutliche Sprache / zu geringe Lautstärke / laute Hintergrundmusik] derart unverständlich, dass er das Gebot einer „klaren und eindeutigen“ Bereitstellung nach Art. 50 Abs. 5 KI-VO verfehlt.
Kopiere diesen Textbaustein in deine Beschwerde, wenn aus dem schriftlichen Hinweis auf KI-Manipulation nicht hervorgeht, was genau manipuliert wurde und du nicht weißt, ob dieser Hinweis sich auf die Bilder, eine oder mehrere Stimmen, die Musik oder etwas ganz anderes bezieht. Ersetze den Teil in Klammern durch den Hinweistext, der dir angezeigt wurde.
Der Werbespot enthält lediglich den pauschalen schriftlichen Hinweis [„Teilweise KI-generiert“]. Aus dieser unkonkreten Angabe geht für Verbraucher nicht hervor, welche Elemente (z. B. eine bestimmte Stimme, Hintergrundbilder oder Animationen) synthetisch erzeugt wurden. Handelt es sich um einen auditiven KI-Einsatz – etwa eine synthetische Stimme –, ist eine rein visuelle Einblendung dieser pauschalen Formulierung doppelt unzureichend: Für das Publikum bleibt völlig unklar, ob sich der Hinweis auf das gesehene Bild oder das gehörte Audio bezieht. Eine derartig vage und kanalunspezifische Deklaration schafft keine echte Transparenz, sondern führt zur Verunsicherung darüber, wo genau die Täuschung stattfindet. Sie erfüllt somit weder das Gebot einer „klaren und eindeutigen“ Aufklärung nach Art. 50 Abs. 5 KI-VO noch zum Irreführungsverbot nach § 5 UWG.
Ergänze ggf. einen vorhandenen Textbaustein durch diesen Textbaustein, wenn es dir schwer fiel, den Hinweis zu lesen oder ihn überhaupt als Hinweis wahrzunehmen. Wähle in der Klammer die zutreffenden Parameter aus, indem du die nicht zutreffenden löschst.
Der eingeblendete Hinweis ist darüber hinaus visuell so gestaltet, dass er eine mühelose und vollständige Wahrnehmung durch den Verbraucher verhindert.
[Die Einblendung erfolgte lediglich für ca. 1–2 Sekunden und verschwand wieder, bevor die Information vollständig wahrgenommen werden konnte.
Der Text wurde in einer extrem geringen Schriftgröße dargestellt, die selbst bei fixer Betrachtung des Bildschirms kaum entzifferbar ist.
Der Hinweis wurde farblich und stilistisch derart nahtlos an den Hintergrund bzw. das Gesamtdesign der Werbeanzeige angepasst, dass er optisch verschleiert wird und im Bildgeschehen untergeht.]
Hierdurch wird die ohnehin bereits mangelhafte Kennzeichnung vollends zur wirkungslosen Alibi-Einblendung. Selbst wenn eine rein visuelle bzw. pauschale Einblendung an dieser Stelle grundsätzlich ausreichen würde, scheitert sie hier eklatant am Transparenzgebot des Art. 50 KI-VO.
Dieser Mangel verstärkt den Rechtsverstoß nach § 5 UWG erheblich: Nach der gefestigten BGH-Rechtsprechung zur Ausgestaltung von Hinweisen in der Videowerbung gelten Aufklärungshinweise als rechtlich unbeachtlich, wenn sie nach den realen Wahrnehmungsbedingungen des Publikums untergehen. Kann ein Hinweis wegen mangelnder Lesbarkeit, unzureichendem Kontrast oder zu flüchtiger Einblenddauer vom Verbraucher nicht mühelos und vollständig erfasst werden, vermag er eine bestehende Irreführung nicht auszuräumen.
