Les législateurs européens organisent jeudi un vote crucial pour fixer des restrictions sur la manière dont l'IA telle que ChatGPT peut être utilisée dans l'Union européenne.

Les commissions du Parlement européen exposeront leur position pour les négociations à venir avec les États membres de l'UE visant à créer une loi visant à prévenir les abus dans l'utilisation de l'intelligence artificielle, tout en laissant la place à l'innovation.

Le bloc veut être le pionnier mondial de la réglementation de la technologie, qui a suscité l'intérêt du public et des entreprises au cours des derniers mois.

L'évolution de Bruxelles vers cet objectif a en fait commencé il y a deux ans, avec une proposition de la Commission européenne. Les États membres de l'UE ont arrêté leur position de négociation à la fin de l'année dernière.

Mais l'émergence depuis lors de ChatGPT, Midjourney et d'autres applications d'IA a fortement focalisé l'attention du parlement sur la question, entraînant une avalanche d'amendements qui doivent être pris en considération.

Une fois que le vote des commissions aura lieu jeudi, l'ensemble du Parlement européen aura son mot à dire lors d'un vote en plénière le mois prochain.

"Je pense que nous proposons un texte très bon et équilibré" qui protège les personnes tout en permettant l'innovation, a déclaré Brando Benifei, l'un des eurodéputés en tête du texte qui sera voté jeudi.

Épée à double tranchant

Bien que la promesse de l'IA soit vaste, c'est aussi une épée à double tranchant en tant qu'outil technologique. Il pourrait sauver des vies en faisant progresser les évaluations médicales, par exemple, ou il pourrait être utilisé par des régimes autoritaires pour perfectionner la surveillance de masse.

Pour le grand public, l'arrivée de ChatGPT à la fin de l'année dernière a suscité curiosité et fascination, les utilisateurs s'inscrivant pour le regarder écrire des essais, des poèmes ou effectuer des traductions en quelques secondes.

L'IA de génération d'images telle que Midjourney et DALL-E a également déclenché une ruée vers le Web pour créer des sosies de Van Gogh ou un pape dans une veste bouffante, tandis que les sites de musique d'IA ont impressionné par leur capacité à produire même des chants humains.

Malheureusement, la technologie recèle un grand potentiel de falsification, pour tromper les gens et influencer l'opinion publique.

Cela a incité Elon Musk et certains chercheurs à demander un moratoire jusqu'à ce que les cadres juridiques puissent rattraper leur retard.

La position du Parlement européen suit les principales orientations énoncées dans la proposition de la Commission, qui était guidée par les lois européennes existantes sur la sécurité des produits qui imposent la responsabilité des contrôles aux fabricants.

Le cœur de l'approche de l'UE est d'avoir une liste d'activités "à haut risque" pour l'IA.

La commission suggère que la désignation couvre les systèmes dans des domaines sensibles tels que les infrastructures critiques, l'éducation, les ressources humaines, l'ordre public et la gestion des migrations.

Certaines des règles proposées pour cette catégorie garantiraient un contrôle humain sur l'IA, la fourniture d'une documentation technique et l'existence d'un système de gestion des risques.

Chaque État membre de l'UE aurait une autorité de surveillance pour s'assurer que les règles sont respectées.

De nombreux députés souhaitent toutefois limiter les critères de ce qui constitue un "risque élevé" afin qu'il ne couvre que les applications d'IA jugées menaçantes pour la sécurité, la santé ou les droits fondamentaux. D'autres, comme le groupe des Verts, s'y opposent.

En ce qui concerne l'IA générative telle que ChatGPT, le parlement envisage un ensemble spécifique d'obligations similaires à celles appliquées à la liste "à haut risque".

Les députés souhaitent également que les entreprises d'intelligence artificielle mettent en place des protections contre les contenus illégaux et les œuvres protégées par le droit d'auteur qui pourraient être utilisées pour former leurs algorithmes.

La proposition de la commission demande déjà que les utilisateurs soient avertis lorsqu'ils sont en contact avec une machine et exige que les applications produisant des images déclarent que leur sortie a été créée artificiellement.

Les interdictions pures et simples seraient rares et ne concerneraient que les applications contraires aux valeurs chères à l'Europe, par exemple le type de systèmes de surveillance de masse et d'évaluation des citoyens utilisés en Chine.

Les législateurs veulent ajouter des interdictions sur l'IA reconnaissant les émotions et se débarrasser des exceptions qui permettraient l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre.

Ils veulent également empêcher le scraping de photos postées sur internet pour des algorithmes d'entraînement à moins d'obtenir l'autorisation des personnes concernées.

© 2023 AFP