Présidentielle américaine, élections européennes... 2024 sera marquée par une série d'importants scrutins.Alors que l'IA effectue des progrès spectaculaires, les craintes s'accentuent de voir les deepfakes empoisonner les campagnes.Plusieurs exemples récents nous alertent sur ces armes potentielles de désinformation.
Durant l'année écoulée, start-ups et géants de la tech ont repoussé les limites de l'intelligence artificielle. Des avancées qui fascinent autant qu'elles intriguent, mais qui peuvent également faire naître quelques craintes, faute de régulation. C'est notamment le cas avec le perfectionnement des deepfakes, terme anglophone que certains traduisent par des "hypertrucages". Modifier un fichier sonore ou vidéo, voire le créer de toutes pièces en détournant l'image ou la voix d'une personnalité ? Cela ne relève plus aujourd'hui de la science-fiction. De quoi faire frémir alors que 2024 sera marquée par de nombreuses élections à travers le globe.
Une multitude de scrutins sensibles
Le 31 décembre, c'est une vidéo pour le moins surprenante que postait sur son compte X Loïc Signor, le porte-parole de Renaissance. Marine Le Pen apparaissait alors attablée, face caméra, en train de se livrer à une traditionnelle séance de vœux pour la nouvelle année. Si les propos de la cheffe de file du RN débutent en français, on l'entend ensuite poursuivre en russe, sans que le mouvement de ses lèvres ou du reste de son visage ne laisse transparaître de manipulation. "L’IA fait encore plus peur lorsqu’elle se rapproche de la réalité", écrivait en légende Loïc Signor, qui assume auprès de TF1info avoir cherché à réaliser un "coup de communication politique" pour illustrer la proximité qui existerait entre le Rassemblement national et la Russie.
L’IA fait encore plus peur lorsqu’elle se rapproche de la réalité. Retrouvez les vœux 2024 de #MarinePoutine . 🇷🇺 pic.twitter.com/4oTWv9VKU4 — Loïc Signor (@PorteParole_RE) December 31, 2023
"C’est provocateur", glisse le porte-parole, "et l’image permet de se projeter, de montrer une réalité. Celle des liens entre Marine Le Pen et Poutine". Il poursuit et ajoute qu'il "comprend parfaitement les réactions" suscitées par sa publication, mais estime que le "vrai risque" demeure "l’arrivée de Marine Le Pen au pouvoir".
Cet exemple illustre la manière dont les outils et programmes basés sur l'IA peuvent désormais produire des contenus au rendu très crédible. En gardant à l'esprit que ceux qui réalisent ou diffusent de tels détournements ne prendront pas nécessairement la précaution de préciser qu'il s'agit de deepfakes.
La vigilance sera ainsi de mise cette année, en particulier à cause de la multitude d'élections qui sont prévues à travers le monde. Les européennes sont bien sûr attendues au printemps, mais il ne faut pas oublier les scrutins présidentiels américains, russes ou sénégalais. Au total, on estime que la moitié de la population mondiale est appelée à se rendre aux urnes d'ici à la fin de l'année : 77 pays sont concernés !
En 2018, un deepfake faisait sensation en montrant Barack Obama insulter Donald Trump. La vidéo avait connu un large retentissement et illustrait les avancées de l'IA en la matière. Si de nombreux éléments, au niveau vocal ou de l'image, laissaient encore à désirer et pouvaient permettre de ne pas se laisser abuser, la technologie est désormais bien plus aboutie. Précurseur, le faux Barack Obama glissait d'ailleurs ceci : "Nous entrons dans l’ère où on peut faire dire n’importe quoi à n’importe qui."
Les menaces d'ingérence des deepfakes dans les campagnes électorales ne sont pas seulement théoriques. À Taïwan, le candidat démocrate à la présidentielle Lai Ching-te en a ainsi été victime à plusieurs reprises. Des vidéos trompeuses relayées sur TikTok et dont l'orchestration est imputée à Pékin. Soulignons aussi qu'en Slovaquie, les dernières élections ont été marquées par la diffusion, deux jours avant le vote, d'un message vocal trompeur. Michal Šimečka, à la tête du parti libéral, est ainsi entendu en train d'échanger avec une journaliste locale. Une discussion au cours de laquelle ils évoquaient la manière de truquer les élections, via l'achat de voix d'une minorité rom marginalisée dans le pays. Quel fut l'impact de ce fichier manipulé (une telle conversation a été créée de toutes pièces par un programme informatique) ? Difficile de le conclure... Toutefois, le candidat visé s'est incliné à l'issue d'un scrutin très serré.
Alors que certains candidats à des élections sont victimes de l'IA, des responsables politiques en font de leur côté un outil afin de toucher l'opinion publique. Comme avec cette campagne, observée en Nouvelle-Zélande.
Cette scène de cambriolage, censée illustrer l'insécurité qui rongerait le pays d'Océanie, est le fruit d'une IA générative d'images, et donc totalement fictive. Quelques mois avant de devenir Premier ministre, le chef du parti national de Nouvelle-Zélande assumait pleinement dans la presse néo-zélandaise le recours à de tels visuels. Rien d'étonnant pour Bastien Masse : interrogé par TF1info, le chef de projet de la chaire Unesco Relia (Ressources éducatives libres et intelligence artificielle) au sein de Nantes Université estime que les contenus générés par des IA n'ont pas nécessairement vocation à faire passer des messages, mais leur prête un autre but. Il y voit avant tout un "objectif de déstabilisation". Créer du doute, "renforcer les oppositions", mais aussi générer des "crises de confiance dans les relais d'information".
La vigilance sera donc de mise cette année, en particulier à cause de la multitude d'élections qui sont prévues à travers le monde. Les européennes sont bien sûr attendues au printemps, mais il ne faut pas oublier les scrutins présidentiels américains, russes ou sénégalais. Au total, on estime que la moitié de la population mondiale est appelée à se rendre aux urnes d'ici à la fin de l'année : 77 pays sont concernés !
Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N'hésitez pas à nous écrire à l'adresse lesverificateurs@tf1.fr. Retrouvez-nous également sur X : notre équipe y est présente derrière le compte @verif_TF1LCI.