Les essaims d'IA comme menace pour la démocratie : les experts avertissent des campagnes de désinformation autonomes

Auteur: nzz.ch

Résumé

Une équipe d'auteurs internationaux avertit dans un article de fond de la prestigieuse revue scientifique Science que des essaims d'IA autonomes pourraient influencer les élections démocratiques par le biais de campagnes de désinformation coordonnées. La lauréate du prix Nobel de la paix Maria Ressa et Audrey Tang, ancienne ministre du numérique de Taïwan, voient la démocratie en danger. Cependant, un expert suisse en désinformation relativise le danger en arguant que les citoyens ne se laissent pas aussi facilement manipuler.

Personnes

• Maria Ressa – Journaliste philippine, lauréate du prix Nobel de la paix
• Audrey Tang – Ancienne ministre du numérique de Taïwan
• Gary Marcus – Critique de l'IA
• Jonas Kunst – Professeur de communication, École de commerce norvégienne
• Daniel Thilo Schroeder – Chercheur à Sintef
• Frank Schweitzer – Professeur émérite à l'EPF Zurich
• Sacha Altay – Chercheur en désinformation, Université de Zurich

Sujets

• Intelligence artificielle et désinformation
• Élections démocratiques et influence
• Campagnes d'astroturfing contrôlées par l'IA
• Confiance dans les informations numériques
• Biais de confirmation et polarisation

Résumé détaillé

L'avertissement d'éminents experts

Une équipe de 22 auteurs a publié un article de fond dans la revue scientifique Science, qui avertit des dangers potentiels des agents d'IA autonomes pour les systèmes démocratiques. Les auteurs décrivent un scénario dans lequel des milliers d'agents fonctionnant par IA pourraient se coordonner en « essaims malveillants » pour déformer délibérément les débats publics sur les plateformes numériques. Contrairement aux groupes de bots précédents, ces systèmes agiraient de manière stratégique, coordonnée et capable d'apprentissage, et opéreraient sur plusieurs plateformes.

Parmi les co-auteurs les plus éminents figurent Maria Ressa, une journaliste philippine qui a reçu le prix Nobel de la paix pour son engagement en faveur de la liberté d'expression et qui a elle-même subi des années de campagnes de harcèlement numérique. Audrey Tang, ancienne ministre du numérique de Taïwan, est une pionnière de la démocratie numérique. Le critique réputé de l'IA Gary Marcus et un professeur émérite de l'EPF Zurich y participent également. Les auteurs principaux sont Jonas Kunst et Daniel Thilo Schroeder de Norvège.

Le concept des consensus artificiellement simulés

Les auteurs avertissent concrètement d'un mécanisme de manipulation : les agents d'IA autonomes pourraient gérer de faux profils sur les réseaux sociaux censés simuler différentes convictions politiques. Des acteurs malveillants pourraient, par exemple, exploiter deux réseaux parallèles de cent profils chacun – l'un prétendument républicain, l'autre démocrate. Alors que ces profils semblent être en désaccord sur des sujets controversés, ils pourraient soudainement trouver un compromis sur des sujets stratégiquement choisis. Pour les vrais utilisateurs qui suivent ces débats, l'impression se crée qu'il existe un large consensus sociétal – une technique connue sous le nom « d'astroturfing ».

L'astroturfing est une méthode de manipulation dans laquelle des réseaux artificiellement générés se font passer pour des mouvements sociétaux légitimes. Le terme provient du fabricant américain de gazon synthétique et sert de contrepoint aux mouvements de base authentiques. Jusqu'à présent, l'exploitation de tels réseaux de bots a été coûteuse et laborieuse. Cependant, les agents d'IA autonomes réduiront considérablement ces coûts. Une seule personne pourrait contrôler des milliers d'agents d'IA. Les modèles de langage adaptent sans problème leur choix de mots aux groupes cibles et imitent le comportement humain par le biais de volumes de publication limités et de fenêtres temporelles stratégiques. Grâce aux tests A/B, ils pourraient continuellement augmenter leur pouvoir de persuasion.

Relativisation par la recherche sur la désinformation

Tous les experts ne partagent pas cette attitude d'alarme. Sacha Altay, chercheur à l'Université de Zurich, relativise le danger en se basant sur des études empiriques : l'influence des fausses informations délibérément propagées sur les élections et les votations est négligeable. Il doute que les agents d'IA puissent fondamentalement transformer le débat public dans les démocraties.

Bien que des modèles de langage comme ChatGPT puissent argumenter de manière convaincante dans des conversations intensives, Altay remet en question si les gens débattraient vraiment pendant des heures avec des étrangers sur la politique sur les réseaux sociaux. La plupart utilisaient les réseaux sociaux pour se divertir, pas pour former une opinion politique. Si un utilisateur s'intéressait à la politique, il trouverait sur les plateformes des sources journalistiques sérieuses.

La perspective à long terme

Malgré la relativisation d'Altay, il est encore trop tôt pour considérer les agents d'IA comme inoffensifs pour la démocratie. L'IA s'améliore continuellement, et la distinction entre contenu authentique et contenu généré par ordinateur devient de plus en plus faible. Cela pourrait entraîner une perte fondamentale de confiance dans l'information.

La recherche révèle un phénomène paradoxal : les gens croient principalement aux informations qui correspondent à leur vision du monde existante. Les agents d'IA pourraient donc ne pas nécessairement changer les points de vue, mais pourraient même faire en sorte que les gens renforcent leurs préférences politiques et que la polarisation augmente.

Points clés

• Les agents d'IA autonomes pourraient créer des consensus artificiellement générés par le biais de campagnes d'astroturfing coordonnées et manipuler les débats publics
• Les coûts de telles campagnes de manipulation diminuent considérablement puisqu'une seule personne peut contrôler des milliers d'agents d'IA
• D'éminents experts comme la lauréate du prix Nobel de la paix Maria Ressa avertissent de la menace pour la démocratie
• La recherche sur la désinformation montre que l'influence réelle de la désinformation sur les élections a jusqu'à présent été mineure
• Les gens croient de préférence aux informations qui correspondent à leurs convictions, ce qui pourrait renforcer la polarisation
• Les impacts à long terme de l'IA autonome sur les démocraties ne sont pas encore entièrement prévisibles

Métadonnées