L'ancien président Donald Trump se fait tacler par des policiers de New York en tenue anti-émeute. Le président russe Vladimir Poutine en prison gris derrière les barreaux d'une cellule en béton faiblement éclairée.

Les images très détaillées et sensationnelles ont inondé Twitter et d'autres plateformes ces derniers jours, au milieu des nouvelles selon lesquelles Trump pourrait faire face à des accusations criminelles et que la Cour pénale internationale a émis un mandat d'arrêt contre Poutine.

Mais aucun visuel n'est réel à distance. Les images - et les dizaines de variations qui jonchent les médias sociaux - ont été produites à l'aide de générateurs d'images de plus en plus sophistiqués et largement accessibles alimentés par l'intelligence artificielle.

Les experts en désinformation avertissent que les images sont le signe avant-coureur d'une nouvelle réalité : des vagues de fausses photos et vidéos inondent les réseaux sociaux après des événements d'actualité majeurs et brouillent davantage les faits et la fiction à des moments cruciaux pour la société.

"Cela ajoute du bruit lors des événements de crise. Cela augmente également le niveau de cynisme", a déclaré Jevin West, professeur à l'Université de Washington à Seattle, qui se concentre sur la propagation de la désinformation. "Vous commencez à perdre confiance dans le système et les informations que vous obtenez."

Bien que la possibilité de manipuler des photos et de créer de fausses images ne soit pas nouvelle, les outils de génération d'images AI de Midjourney, DALL-E et d'autres sont plus faciles à utiliser. Ils peuvent générer rapidement des images réalistes, avec des arrière-plans détaillés, à grande échelle avec un peu plus qu'une simple invite de texte de la part des utilisateurs.

Certaines des images récentes ont été tirées par la sortie de ce mois-ci d'une nouvelle version du modèle de synthèse texte-image de Midjourney, qui peut, entre autres, produire désormais des images convaincantes imitant le style des photos des agences de presse.

Dans un fil Twitter largement diffusé, Eliot Higgins, fondateur de Bellingcat, un collectif de journalisme d'investigation basé aux Pays-Bas, a utilisé la dernière version de l'outil pour évoquer des dizaines d'images dramatiques de l'arrestation fictive de Trump.

Les visuels, qui ont été partagés et aimés des dizaines de milliers de fois, montraient une foule d'officiers en uniforme attrapant le milliardaire républicain et le tirant violemment sur le trottoir.

Higgins, qui était également à l'origine d'un ensemble d'images de Poutine étant arrêté, jugé puis emprisonné, dit qu'il a posté les images sans intention malveillante. Il a même déclaré clairement dans son fil Twitter que les images étaient générées par l'IA.

Pourtant, les images étaient suffisantes pour le faire exclure du serveur Midjourney, selon Higgins. Le laboratoire de recherche indépendant basé à San Francisco n'a pas répondu aux e-mails demandant des commentaires.

"L'image de l'arrestation de Trump montrait simplement à quel point Midjourney était bon et mauvais pour rendre des scènes réelles", a écrit Higgins dans un e-mail. "Les images ont commencé à former une sorte de récit lorsque j'ai branché des invites à Midjourney, alors je les ai enchaînées dans un récit et j'ai décidé de terminer l'histoire."

Il a souligné que les images sont loin d'être parfaites : dans certains, Trump est vu, curieusement, portant une ceinture utilitaire de police. Dans d'autres, les visages et les mains sont clairement déformés.

Mais il ne suffit pas que des utilisateurs comme Higgins indiquent clairement dans leurs messages que les images sont générées par l'IA et uniquement à des fins de divertissement, déclare Shirin Anlen, technologue des médias chez Witness, une organisation de défense des droits de l'homme basée à New York qui se concentre sur les preuves visuelles.

Trop souvent, les visuels sont rapidement repartagés par d'autres sans ce contexte crucial, a-t-elle déclaré. En effet, une publication Instagram partageant certaines des images de Trump de Higgins comme si elles étaient authentiques a recueilli plus de 79 000 likes.

"Vous ne faites que voir une image, et une fois que vous voyez quelque chose, vous ne pouvez pas l'oublier", a déclaré Anlen.

Dans un autre exemple récent, les utilisateurs des médias sociaux ont partagé une image synthétique censée capturer Poutine agenouillé et embrassant la main du dirigeant chinois Xi Jinping. L'image, qui a circulé alors que le président russe accueillait Xi au Kremlin cette semaine, est rapidement devenue un mème grossier.

On ne sait pas qui a créé l'image ou quel outil ils ont utilisé, mais certains indices ont révélé la contrefaçon. Les têtes et les chaussures des deux dirigeants étaient légèrement déformées, par exemple, et l'intérieur de la salle ne correspondait pas à la salle où la réunion a eu lieu.

Les images synthétiques devenant de plus en plus difficiles à distinguer de la réalité, la meilleure façon de lutter contre la désinformation visuelle est une meilleure sensibilisation et éducation du public, disent les experts.

"Cela devient si facile et si bon marché de créer ces images que nous devrions faire tout ce que nous pouvons pour sensibiliser le public à la qualité de cette technologie", a déclaré West.

Higgins suggère que les entreprises de médias sociaux pourraient se concentrer sur le développement de technologies pour détecter les images générées par l'IA et les intégrer à leurs plateformes.

Twitter a une politique interdisant les "médias synthétiques, manipulés ou hors contexte" susceptibles de tromper ou de nuire. Des annotations de Community Notes, le projet de vérification des faits de Twitter, ont été jointes à certains tweets pour inclure le contexte dans lequel les images de Trump ont été générées par l'IA.

Lorsqu'elle a été contactée pour un commentaire jeudi, la société n'a renvoyé par e-mail qu'une réponse automatisée.

Meta, la société mère de Facebook et Instagram, a refusé de commenter. Certaines des images fabriquées par Trump ont été qualifiées de "fausses" ou de "contexte manquant" par le biais de son programme tiers de vérification des faits, dont l'AP est un participant.

Arthur Holland Michel, membre du Carnegie Council for Ethics in International Affairs à New York, qui se concentre sur les technologies émergentes, a déclaré qu'il craignait que le monde ne soit pas prêt pour le déluge imminent.

Il se demande comment les deepfakes impliquant des gens ordinaires – de fausses photos nuisibles d'un ex-partenaire ou d'un collègue, par exemple – seront réglementés.

"D'un point de vue politique, je ne suis pas sûr que nous soyons prêts à faire face à cette ampleur de la désinformation à tous les niveaux de la société", a écrit Michel dans un e-mail. "Mon sentiment est qu'il va falloir une percée technique encore inimaginable pour mettre définitivement un terme à cela."

© 2023 L'Associated Press. Tous les droits sont réservés. Ce matériel ne peut être publié, diffusé, réécrit ou redistribué sans autorisation.