Kurzfassung

Die EU-Kommission hat einen verbindlichen Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte veröffentlicht. Das Regelwerk, erarbeitet von sechs Experten mit über 180 Interessenvertretern, konkretisiert die Transparenzvorgaben der KI-Verordnung ab 2. August 2024. Deepfakes, manipulierte sowie künstlich erzeugte Texte im öffentlichen Interesse müssen klar gekennzeichnet werden. Interaktionen mit Chatbots müssen als maschinell erkennbar sein. Der Kodex basiert auf Freiwilligkeit, ermöglicht aber teilnehmenden Unternehmen, ihre Erfüllung der gesetzlichen AI-Act-Pflichten offiziell nachzuweisen.

Personen

  • Stefan Krempl (Autor, Heise News)

Themen

  • Künstliche Intelligenz
  • EU-Regulierung
  • Transparenz und Kennzeichnung
  • Deepfakes und Manipulation
  • Digitale Authentifizierung

Clarus Lead

Der Kodex schafft erstmals verbindliche technische Standards für die Erkennung KI-generierter Inhalte in der EU – ein entscheidender Schritt zur Bekämpfung von Desinformation und Manipulation in Echtzeit. Mit dem standardisierten EU-Label und mehrschichtigen maschinenlesbaren Markierungen etabliert die Kommission einen praktischen Compliance-Mechanismus, der Unternehmen einen rechtlichen Anreiz bietet: Wer teilnimmt, kann nachweisen, dass er die AI-Act-Anforderungen erfüllt. Dies könnte die Marktakzeptanz von KI-Systemen erhöhen, während gleichzeitig Medien, Faktenprüfer und Behörden kostenlosen Zugang zu Erkennungswerkzeugen erhalten.

Detaillierte Zusammenfassung

Der Kodex gliedert sich in zwei Kernverantwortungsbereiche. Entwickler und Anbieter generativer KI-Systeme müssen technisch mehrschichtige Markierungen implementieren: manipulationssichere digitale Metadaten mit digitaler Signatur und Zeitstempel kombiniert mit unsichtbaren Wasserzeichen. Für Texte über 200 Zeichen, die keine konventionellen Metadaten transportieren, sind Wasserzeichen verpflichtend; Erkennungswerkzeuge dürfen hier vorerst auf verifizierte Experten beschränkt werden. Zusätzlich sind optionale Fingerprints und Protokollierungslösungen möglich, sofern der Datenschutz gewahrt bleibt. Anbieter dürfen keine Tools zur Umgehung dieser Mechanismen vertreiben.

Anwender und Betreiber müssen Deepfakes und nicht redaktionell geprüfte KI-Texte im öffentlichen Interesse unmissverständlich kennzeichnen – mittels des neuen standardisierten EU-Labels „AI + GENERATED" oder „AI + MODIFIED" abhängig vom Modifikationsgrad. Das Label muss von der ersten Nutzerbegegnung an sichtbar platziert werden; bei Videos in regelmässigen Abständen wiederholt. Bei Audio-Deepfakes greifen akustische Warnhinweise am Anfang und bei längeren Sequenzen. Künstlerische, satirische und kreative Werke unterliegen flexibleren Regeln, um den Kunstgenuss nicht zu beeinträchtigen. Klassische Mediendienste können auf eigene redaktionelle Kontrollprozesse verweisen. Eine Taskforce wird den Kodex kontinuierlich an technologische Fortschritte anpassen und eine interaktive Labelebene entwickeln, die Nutzern per Klick detaillierte Herkunftsdaten liefert.

Kernaussagen

  • Zweischichtiges Regelwerk mit technischen Standards für Entwickler und Kennzeichnungspflichten für Anwender
  • Standardisiertes EU-Label als einheitliche Erkennungsmarke für KI-Inhalte ab August 2024
  • Kostenloser Zugang zu Erkennungswerkzeugen für Aufsichtsbehörden, Medien und Forscher ist obligatorisch
  • Freiwilliger Kodex bietet Compliance-Nachweis für AI-Act-Anforderungen – Anreiz für Unternehmensteilnahme
  • Flexible Regeln für künstlerische Inhalte; traditionelle Medien können bewährte redaktionelle Prozesse nutzen

Kritische Fragen

  1. Evidenz/Datenqualität: Welche empirischen Tests hat die Kommission mit den beiden maschinenlesbaren Ebenen (Metadaten + Wasserzeichen) durchgeführt, um ihre Wirksamkeit gegen technische Umgehungsversuche zu validieren?

  2. Datenqualität (Wasserzeichen-Robustheit): Der Kodex räumt ein, dass „nach derzeitigem Stand der Technik kein einzelnes Verfahren ausreicht" – wie robust sind Wasserzeichen gegen Kompression, Crops und Konvertierungen in der Praxis?

  3. Interessenskonflikte: Wer finanziert und kontrolliert die Taskforce, die den Kodex anpasst und die interaktive Label-Ebene entwickelt? Sind KI-Unternehmen in dieser Taskforce vertreten?

  4. Kausalität/Alternativen: Kann ein standardisiertes Label allein Desinformation bekämpfen, oder bedarf es zusätzlicher Massnahmen (z. B. Plattform-Algorithmen, Medienkompetenz)?

  5. Umsetzbarkeit: Wie werden kleine und mittlere Anbieter die technische Implementierung zweischichtiger Markierungen finanzieren und umsetzen – gibt es Übergangshilfen?

  6. Nebenwirkungen: Könnte die Kennzeichnungspflicht für künstlerische Werke mit flexibileren Regeln zu Missbrauch führen, wenn Nutzer nicht mehr unterscheiden können, ob ein Kunstwerk oder eine Desinformation vorliegt?

  7. Vollstreckung: Welche Sanktionen gelten für Anbieter, die sich weigern, den Kodex zu unterzeichnen, oder ihn ignorieren – sind sie stärker als die blosse Nicht-Anerkennung beim AI-Act-Compliance-Nachweis?

Quellenverzeichnis

Primärquelle: EU-Kommission legt Verhaltenskodex zur Kennzeichnung von KI-Inhalten vor – Heise News, Stefan Krempl

Verifizierungsstatus: ✓ 2024

Weitere Sprachen: Französisch | Englisch

Dieser Text wurde mit Unterstützung eines KI-Modells erstellt. Redaktionelle Verantwortung: clarus.news | Faktenprüfung: 2024