La Chine commencera à appliquer ses nouvelles règles strictes concernant la création de deepfakes à partir d'aujourd'hui.
Les deepfakes sont de plus en plus utilisés à des fins de manipulation et d'humiliation. Nous avons vu des deepfakes de personnalités comme le fondateur en disgrâce de FTX, Sam Bankman-Fried commettre une fraudele président ukrainien Volodymyr Zelenskyy pour répandre la désinformation, et la présidente de la Chambre des États-Unis, Nancy Pelosi, pour la faire paraître ivre.
Le mois dernier, le Administration du cyberespace de Chine (CAC) a annoncé des règles pour réprimer les deepfakes.
« Ces dernières années, la technologie de synthèse en profondeur s'est développée rapidement. Tout en répondant aux besoins des utilisateurs et en améliorant les expériences des utilisateurs, il a également été utilisé par certains criminels pour produire, copier, publier et diffuser des informations illégales et mauvaises, diffamer, porter atteinte à la réputation et à l'honneur d'autrui et contrefaire d'autres », explique le CAC. .
Les fournisseurs de services de création de contenu synthétique seront tenus de s'assurer que leurs IA ne sont pas utilisées à des fins illégales et/ou nuisibles. De plus, tout contenu créé à l'aide d'une IA doit être clairement étiqueté avec un filigrane.
Les nouvelles règles chinoises entrent en vigueur aujourd'hui (10 janvier 2023) et obligeront également les fournisseurs de services synthétiques à :
- Ne pas traiter illégalement des informations personnelles
- Examiner, évaluer et vérifier périodiquement les algorithmes
- Établir des systèmes de gestion et des garanties techniques
- Authentifier les utilisateurs avec des informations d'identité réelles
- Mettre en place des mécanismes de plaintes et de signalement
Le CAC note qu'une gouvernance efficace des technologies synthétiques est un effort multi-entités qui nécessitera la participation du gouvernement, des entreprises et des citoyens. Une telle participation, selon le CAC, favorisera l'utilisation légale et responsable des technologies de synthèse profonde tout en minimisant les risques associés.
(Photo par Henri Chen au Unsplash)
Lié: AI & Big Data Expo : Explorer l'éthique dans l'IA et les garde-fous nécessaires
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source