Auteur: heise.de

Résumé exécutif

La Commission de l'UE a publié un code de conduite contraignant pour l'étiquetage des contenus générés par l'IA. Ce dispositif réglementaire, élaboré par six experts en collaboration avec plus de 180 parties prenantes, concrétise les obligations de transparence du règlement sur l'IA à partir du 2 août 2024. Les deepfakes, contenus manipulés et textes générés artificiellement d'intérêt public doivent être clairement étiquetés. Les interactions avec les chatbots doivent être reconnaissables comme étant générées par machine. Le code repose sur le volontariat, mais permet aux entreprises participantes de prouver officiellement leur conformité aux obligations de la loi sur l'IA.

Personnes

  • Stefan Krempl (auteur, Heise News)

Thèmes

  • Intelligence artificielle
  • Réglementation de l'UE
  • Transparence et étiquetage
  • Deepfakes et manipulation
  • Authentification numérique

Clarus Lead

Le code établit pour la première fois des normes techniques contraignantes pour la détection des contenus générés par l'IA dans l'UE – une étape décisive pour combattre la désinformation et la manipulation en temps réel. Avec le label européen standardisé et les marquages multiples lisibles par machine, la Commission établit un mécanisme de conformité pratique qui offre aux entreprises un incitatif juridique : les participants peuvent démontrer qu'ils respectent les exigences de la loi sur l'IA. Cela pourrait accroître l'acceptation sur le marché des systèmes d'IA, tout en donnant aux médias, vérificateurs de faits et autorités un accès gratuit aux outils de détection.

Résumé détaillé

Le code se divise en deux domaines de responsabilité fondamentaux. Les développeurs et fournisseurs de systèmes d'IA générative doivent mettre en œuvre des marquages multiples sur le plan technique : métadonnées numériques sécurisées contre la manipulation avec signature numérique et horodatage combinées à des filigranes invisibles. Pour les textes de plus de 200 caractères ne transportant pas de métadonnées conventionnelles, les filigranes sont obligatoires ; les outils de détection peuvent initialement être limités aux experts vérifiés. De plus, les empreintes digitales optionnelles et les solutions de journalisation sont possibles, à condition que la protection des données soit respectée. Les fournisseurs ne peuvent pas distribuer d'outils contournant ces mécanismes.

Les utilisateurs et exploitants doivent étiqueter sans équivoque les deepfakes et textes générés par l'IA non examinés rédactionnellement d'intérêt public – en utilisant le nouveau label européen standardisé « AI + GENERATED » ou « AI + MODIFIED » selon le degré de modification. Le label doit être placé visiblement dès la première exposition de l'utilisateur ; pour les vidéos, répété à intervalles réguliers. Pour les deepfakes audio, des avertissements acoustiques s'appliquent au début et lors de séquences plus longues. Les œuvres artistiques, satiriques et créatives sont soumises à des règles plus flexibles pour ne pas nuire à la jouissance de l'art. Les services médias classiques peuvent invoquer leurs propres processus de contrôle éditoriaux. Un groupe de travail adaptera continuellement le code aux progrès technologiques et développera un niveau d'étiquetage interactif fournissant aux utilisateurs, d'un clic, des données d'origine détaillées.

Points clés

  • Dispositif en deux couches avec normes techniques pour les développeurs et obligations d'étiquetage pour les utilisateurs
  • Label européen standardisé comme marque de reconnaissance unique pour les contenus d'IA à partir d'août 2024
  • L'accès gratuit aux outils de détection pour les autorités de surveillance, les médias et les chercheurs est obligatoire
  • Le code volontaire offre une preuve de conformité aux exigences de la loi sur l'IA – incitation à la participation des entreprises
  • Règles flexibles pour les contenus artistiques ; les médias traditionnels peuvent utiliser les processus éditoriaux éprouvés

Questions critiques

  1. Preuve/Qualité des données: Quels tests empiriques la Commission a-t-elle menés avec les deux couches lisibles par machine (métadonnées + filigranes) pour valider leur efficacité contre les tentatives de contournement technique ?

  2. Qualité des données (robustesse des filigranes): Le code reconnaît que « selon l'état actuel de la technique, aucune procédure unique ne suffit » – à quel point les filigranes sont-ils robustes face à la compression, aux recadrages et aux conversions en pratique ?

  3. Conflits d'intérêts: Qui finance et contrôle le groupe de travail qui adapte le code et développe le niveau d'étiquetage interactif ? Les entreprises d'IA y sont-elles représentées ?

  4. Causalité/Alternatives: Un label standardisé seul peut-il combattre la désinformation, ou faut-il des mesures supplémentaires (par exemple, algorithmes de plateforme, littératie médiatique) ?

  5. Faisabilité: Comment les petits et moyens fournisseurs financeront-ils et mettront-ils en œuvre les marquages multiples sur le plan technique – existe-t-il une aide transitoire ?

  6. Effets secondaires: L'obligation d'étiquetage des œuvres artistiques avec des règles plus flexibles pourrait-elle mener à des abus si les utilisateurs ne peuvent plus différencier une œuvre d'art d'une désinformation ?

  7. Application: Quelles sanctions s'appliquent aux fournisseurs qui refusent de signer le code ou l'ignorent – sont-elles plus fortes que la simple non-reconnaissance lors de la preuve de conformité à la loi sur l'IA ?

Bibliographie

Source primaire: La Commission de l'UE présente un code de conduite pour l'étiquetage des contenus générés par l'IA – Heise News, Stefan Krempl

Statut de vérification: ✓ 2024

Ce texte a été créé avec l'aide d'un modèle d'IA. Responsabilité éditoriale: clarus.news | Vérification des faits: 2024