Am 2. August traten neue Transparenzanforderungen gemäßArtikel 50 des EU-KI-Gesetzesin Kraft. Diese betreffen Chatbots, KI-generierte Inhalte, Deepfakes sowie bestimmte biometrische KI-Systeme.  

Die meisten Anforderungen gelten bereits jetzt, wobei generative KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, biszum 2. Dezember 2026Zeit haben, die Anforderung an die maschinenlesbare Kennzeichnung zu erfüllen. 

Was Ihr Unternehmen tun muss, hängt zum Teil davon ab, ob Sie ein KI-System bereitstellen oder ein von anderen entwickeltes System nutzen. Hier sind fünf Punkte, die KI-Teams jetzt überprüfen sollten: 

Wenn Menschen mit KI interagieren, müssen sie darüber informiert sein – Artikel 50 Absatz 1 

Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen sicherstellen, dass die Nutzer wissen, dass sie es mit einer KI zu tun haben, es sei denn, dies geht bereits aus dem Kontext hervor.  

Bei Chatbots und KI-Agenten sollten diese Informationen bereits zu Beginn der Interaktion bereitgestellt werden. 

Bitte prüfen Sie: Bieten Sie ein KI-System an, das direkt mit Menschen interagiert? Falls ja, werden die Nutzer bereits bei ihrer ersten Interaktion darüber informiert, dass sie es mit einer KI zu tun haben? 

Von KI generierte Inhalte müssen möglicherweise erkennbar sein – Artikel 50 Absatz 2  

Anbieter generativer KI-Systeme müssen im Allgemeinen sicherstellen, dass synthetische Text-, Audio-, Bild- und Videoausgaben in einem maschinenlesbaren Format gekennzeichnet werden, damit sie als KI-generiert oder manipuliert erkannt werden können. 

Das Gesetz nennt Techniken wie Wasserzeichen, Metadaten und digitale Fingerabdrücke als mögliche Mittel, um Inhalte nachweisbar zu machen. 

An dieser Stelle kommt es auf die Unterscheidung zwischen der Bereitstellung und der Nutzung eines KI-Systems an. Ein Unternehmen, das ein Drittanbieter-Tool wie ChatGPT nutzt, ist gemäß dieser Bestimmung nicht automatisch dafür verantwortlich, jeder Ausgabe ein eigenes Wasserzeichen oder eigene Metadaten hinzuzufügen. 

Bitte prüfen Sie: Bieten Sie ein generatives KI-System an oder nutzen Sie das eines anderen Anbieters? Falls Sie der Anbieter sind: Lassen sich die Ergebnisse als KI-generiert identifizieren? 

Einsatz von Emotionserkennung? Die Öffentlichkeit muss informiert werden – Artikel 50 Absatz 3 

Organisationen, die Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzen, müssen die davon betroffenen Personen darüber informieren. 

Dazu gehören Systeme, die darauf ausgelegt sind, aus biometrischen Daten Emotionen abzuleiten, sowie Systeme, die biometrische Daten nutzen, um Personen bestimmten Kategorien zuzuordnen. 

Bitte prüfen Sie: Nutzen Sie eine dieser Technologien, und sind sich die davon betroffenen Personen dessen bewusst? 

Deepfakes müssen kenntlich gemacht werden – Artikel 50 Absatz 4 

Organisationen, die KI einsetzen, um Bilder, Audio- oder Videomaterial zu erzeugen oder zu manipulieren, das einen Deepfake darstellt, müssen offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. 

Das Gesetz enthält Sonderbestimmungen für künstlerische, kreative, satirische oder fiktionale Werke, bei denen eine Offenlegung in einer Weise erfolgen kann, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. 

Überprüfen Sie: Wenn Sie KI-generierte oder manipulierte Medien veröffentlichen, könnte es sich dabei um einen Deepfake handeln? Falls ja, ist dies für das Publikum klar erkennbar? 

Von KI generierte Inhalte von öffentlichem Interesse müssen möglicherweise gekennzeichnet werden – Artikel 50 Absatz 4 

Das Gesetz gilt auch für KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. 

Es gibt eine wichtige Ausnahme: Eine Offenlegung ist nicht erforderlich, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine Person oder Organisation die redaktionelle Verantwortung für dessen Veröffentlichung trägt. 

Bitte prüfen Sie: Wenn Sie KI-generierte Texte zu Themen von öffentlichem Interesse veröffentlichen, ist dann ein Hinweis erforderlich, oder fällt dies unter die Ausnahme hinsichtlich der redaktionellen Kontrolle? 

Was KI-Teams jetzt überprüfen sollten 

Beginnen Sie mit den KI-Systemen, die Ihr Unternehmen bereits bereitstellt oder nutzt. 

Stellen Sie für jedes System fest, ob Sie als Anbieter oder als Betreiber auftreten. Ermitteln Sie anschließend, welche Anforderungen gemäß Artikel 50 gelten und ob Ihre derzeitigen Schnittstellen, Prozesse und Inhalte diesen entsprechen. 

Für viele Teams wird es der wichtigste erste Schritt sein, diese Unterscheidung richtig zu treffen. 

Die Europäische Kommission hat zudemUmsetzungsleitlinienund einen freiwilligenVerhaltenskodex zur Transparenz von KI-generierten Inhaltenveröffentlicht, um Organisationen dabei zu unterstützen,dieentsprechenden Vorschriften zu verstehen und deren Einhaltung nachzuweisen. 

Dieser Artikel enthält allgemeine Informationen und stellt keine Rechtsberatung dar.