Les "diffuseurs d'informations" semblent étonnamment réels, mais ce sont des deepfakes générés par l'IA dans des vidéos de propagande inédites qu'un rapport de recherche publié mardi attribue à des acteurs alignés sur l'État chinois.

Les fausses ancres – pour un média fictif appelé Wolf News – ont été créées par un logiciel d'intelligence artificielle et sont apparues dans des images sur les réseaux sociaux qui semblaient promouvoir les intérêts du Parti communiste chinois, a déclaré la société de recherche américaine Graphika dans son rapport.

"C'est la première fois que nous voyons une opération alignée sur l'État utiliser des séquences vidéo générées par l'IA d'une personne fictive pour créer un contenu politique trompeur", a déclaré à l'AFP Jack Stubbs, vice-président du renseignement chez Graphika.

Dans une vidéo analysée par Graphika, un présentateur masculin fictif qui se fait appeler Alex critique l'inaction des États-Unis face à la violence armée qui sévit dans le pays. Dans le second, une présentatrice insiste sur l'importance de la « coopération des grandes puissances » entre la Chine et les États-Unis.

Les progrès de l'IA ont alimenté l'alarme mondiale sur le potentiel de désinformation et d'utilisation abusive de la technologie, avec des images deepfake créées à partir de rien et des personnes montrées en train de dire des choses qu'elles n'ont jamais dites.

L'année dernière, le propriétaire de Facebook, Meta, a déclaré avoir supprimé une vidéo deepfake du président ukrainien Volodymyr Zelensky exhortant les citoyens à déposer les armes et à se rendre à la Russie.

Il n'y a pas eu de commentaire immédiat de la Chine sur le rapport de Graphika, qui intervient quelques semaines seulement après que Pékin a adopté des règles expansives pour réglementer les deepfakes.

La Chine a appliqué le mois dernier de nouvelles règles qui obligeront les entreprises offrant des services de contrefaçon à obtenir la véritable identité de leurs utilisateurs. Ils exigent également que le contenu deepfake soit étiqueté de manière appropriée pour éviter "toute confusion".

Le gouvernement chinois a averti que les deepfakes présentent un "danger pour la sécurité nationale et la stabilité sociale".

Le rapport de Graphika indique que les deux ancres de Wolf News ont presque certainement été créées à l'aide de la technologie fournie par la startup AI basée à Londres Synthesia.

Le site de Synthesia, qui n'a pas répondu dans l'immédiat à l'appel à commentaires de l'AFP, fait la publicité d'un logiciel de création d'avatars deepfake "à partir de séquences vidéo d'acteurs réels".

Graphika a déclaré avoir découvert les deepfakes sur des plateformes telles que Twitter, Facebook et YouTube tout en suivant des opérations de désinformation pro-Chine connues sous le nom de "spamouflage".

"Le spamouflage est une opération d'influence pro-chinoise qui amplifie principalement les vidéos de spam politique de mauvaise qualité", a déclaré Stubbs.

"Malgré l'utilisation d'une technologie sophistiquée, ces dernières vidéos sont à peu près les mêmes. Cela montre les limites de l'utilisation de deepfakes dans les opérations d'influence - ils ne sont qu'un outil dans une boîte à outils de plus en plus avancée."

© 2023 AFP