L'administration chinoise du cyberespace (CAC) a lancé une campagne de lutte contre les fake news générées par l'IA.
La répression se concentre sur les fournisseurs d'informations, y compris les plateformes de vidéos courtes et les listes de recherche populaires.
Le CAC a spécifiquement mis en évidence les pratiques de manipulation telles que l'utilisation d'ancres virtuelles d'IA, de fausses scènes de studio, de faux comptes d'actualités imitant des comptes légitimes et la manipulation d'informations pour créer des scénarios trompeurs. Ces pratiques sont utilisées pour générer ce que l'on appelle souvent des appâts à clics.
Selon le CAC, il a déjà pris des mesures contre 107 000 faux comptes d'actualités et faux présentateurs, ainsi que la suppression de 835 000 fausses informations. Le régulateur de l'internet exhorte les citoyens à signaler toute rencontre avec de faux comptes d'actualités en ligne.
Conformément à la loi chinoise sur les médias IA, qui vise à freiner la propagation des fausses nouvelles générées par l'IA, la police a récemment arrêté un individu dans la province du Gansu pour avoir créé de fausses nouvelles à l'aide de ChatGPT.
La personne a utilisé ChatGPT pour fabriquer un article de presse sur un accident de train, qui a rapidement gagné du terrain sur les plateformes de médias sociaux. La police a pris des mesures contre l'individu pour avoir diffusé de fausses informations dans le but d'augmenter le trafic sur le site Web.
ChatGPT n'est pas disponible directement en Chine, mais les utilisateurs peuvent y accéder en utilisant un numéro de téléphone étranger pris en charge et un réseau privé virtuel (VPN). Cependant, l'accès aux numéros de téléphone étrangers et aux VPN est limité en Chine.
La loi sur les médias générée par l'IA, en vigueur depuis le 10 janvier 2023, cible non seulement des individus comme celui détenu à Gansu, mais tient également les « fournisseurs de services de synthèse profonde » responsables de la prévention de l'utilisation abusive des algorithmes d'IA pour des activités illégales telles que la fraude, les escroqueries et la diffusion de fausses informations.
La mise en œuvre de cette loi pose des défis à des entreprises comme Tencent, le développeur de WeChat, car elles doivent s'assurer que leurs algorithmes d'IA ne sont pas utilisés à mauvais escient.
Tencent a récemment introduit ce qui est essentiellement un produit "Deepfakes-as-a-Service" qui permet aux utilisateurs de créer des humains numériques haute définition moyennant des frais, ce qui soulève des inquiétudes quant à l'utilisation abusive potentielle d'une telle technologie.
Les efforts du gouvernement chinois pour lutter contre les fausses nouvelles et réglementer la communication en ligne soulignent son engagement à maintenir un environnement numérique sûr et digne de confiance, bien que des inquiétudes concernant la censure et la restriction de la liberté d'expression aient été soulevées par les critiques.
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source