La commission du marché intérieur et la commission des libertés civiles du Parlement européen ont approuvé de nouvelles règles de transparence et de gestion des risques pour les systèmes d'intelligence artificielle, connues sous le nom de Loi sur l'IA.
Cela marque une étape majeure dans le développement de la réglementation de l'IA en Europe, car il s'agit des toutes premières règles pour l'IA. Les règles visent à garantir que les systèmes d'IA sont sûrs, transparents, traçables et non discriminatoires.
Après le vote, le co-rapporteur Brando Benifei (S&D, Italie) a dit:
« Nous sommes sur le point de mettre en place une législation historique qui doit résister au défi du temps. Il est crucial de renforcer la confiance des citoyens dans le développement de l'IA, de définir la voie européenne pour faire face aux changements extraordinaires qui se produisent déjà, ainsi que d'orienter le débat politique sur l'IA au niveau mondial.
Nous sommes convaincus que notre texte concilie la protection des droits fondamentaux avec la nécessité de fournir une sécurité juridique aux entreprises et de stimuler l'innovation en Europe.»
Co-rapporteur Dragos Tudorache (Renew, Roumanie) ajoutée:
"Compte tenu de l'impact transformateur profond que l'IA aura sur nos sociétés et nos économies, la loi sur l'IA est très probablement la législation la plus importante de ce mandat. Il s'agit du premier texte législatif de ce type dans le monde, ce qui signifie que l'UE peut montrer la voie en rendant l'IA centrée sur l'humain, fiable et sûre.
Nous avons travaillé pour soutenir l'innovation en matière d'IA en Europe et pour donner aux start-ups, aux PME et à l'industrie un espace pour se développer et innover tout en protégeant les droits fondamentaux, en renforçant le contrôle démocratique et en garantissant un système mature de gouvernance et d'application de l'IA.
Les règles sont basées sur une approche basée sur les risques et elles établissent des obligations pour les fournisseurs et les utilisateurs en fonction du niveau de risque que le système d'IA peut générer. Les systèmes d'IA présentant un niveau de risque inacceptable pour la sécurité des personnes seraient strictement interdits, y compris les systèmes qui déploient des techniques subliminales ou délibérément manipulatrices, exploitent les vulnérabilités des personnes ou sont utilisés pour la notation sociale.
Les députés ont également modifié substantiellement la liste des pratiques d'IA interdites pour inclure des interdictions d'utilisations intrusives et discriminatoires des systèmes d'IA, tels que les systèmes d'identification biométrique à distance en temps réel dans les espaces accessibles au public, les systèmes d'identification biométrique à distance (sauf à des fins répressives), systèmes de catégorisation biométrique utilisant des caractéristiques sensibles, des systèmes de police prédictive, des systèmes de reconnaissance des émotions dans les forces de l'ordre, la gestion des frontières, le lieu de travail et les établissements d'enseignement, et le grattage aveugle des données biométriques des médias sociaux ou des images de vidéosurveillance pour créer des bases de données de reconnaissance faciale.
Les députés ont également élargi la classification des zones à haut risque pour inclure les atteintes à la santé, à la sécurité, aux droits fondamentaux ou à l'environnement des personnes. Ils ont également ajouté des systèmes d'IA qui influencent les électeurs dans les campagnes politiques et les systèmes de recommandation utilisés par les plateformes de médias sociaux à la liste à haut risque.
Pour stimuler l'innovation en matière d'IA, les députés ont ajouté des exemptions à ces règles pour les activités de recherche et les composants d'IA fournis sous des licences open source. La nouvelle loi promeut également les bacs à sable réglementaires – ou environnements contrôlés établis par les pouvoirs publics – pour tester l'IA avant son déploiement.
Les députés veulent renforcer le droit des citoyens de déposer des plaintes contre les systèmes d'IA et de recevoir des explications sur les décisions basées sur des systèmes d'IA à haut risque qui ont un impact significatif sur leurs droits. Les députés ont également réformé le rôle du bureau de l'IA de l'UE, qui serait chargé de surveiller la mise en œuvre du règlement sur l'IA.
Tim Wright, Tech and AI Regulatory Partner au sein d'un cabinet d'avocats basé à Londres Fladgatea commenté :
« Les développeurs d'IA basés aux États-Unis voleront probablement la vedette à leurs concurrents européens étant donné que les commissions parlementaires de l'UE ont donné le feu vert à sa loi révolutionnaire sur l'IA, dans laquelle les systèmes d'IA devront être classés en fonction de leur potentiel de nuisance dès le départ.
L'approche technologique américaine consiste généralement à expérimenter d'abord et, une fois que l'adéquation du marché et du produit est établie, à s'adapter à d'autres marchés et à leur cadre réglementaire. Cette approche favorise l'innovation, tandis que les développeurs d'IA basés dans l'UE devront prendre note des nouvelles règles et développer des systèmes et des processus susceptibles de réduire leur capacité à innover.
Le Royaume-Uni adopte une approche similaire à celle des États-Unis, bien que la proximité du marché de l'UE signifie que les développeurs basés au Royaume-Uni sont plus susceptibles de s'adapter dès le départ aux règles de l'UE. Cependant, la possibilité d'expérimenter dans un espace sûr - un bac à sable réglementaire - peut s'avérer très attrayante.
Avant que les négociations avec le Conseil sur la forme finale de la loi puissent commencer, ce projet de mandat de négociation doit être approuvé par l'ensemble du Parlement, avec un vote prévu lors de la session du 12 au 15 juin.
(Photo par Denis Sébastien Tamas sur Unsplash)
En rapport: Le Royaume-Uni détaille l'approche "pro-innovation" de la réglementation de l'IA
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source