Contrairement à la nourriture, aux médicaments et aux voitures, nous n'avons pas encore vu de réglementations ou de lois claires pour guider la conception de l'IA aux États-Unis. Sans directives standard, les entreprises qui conçoivent et développent des modèles de ML ont toujours travaillé à partir de leurs propres perceptions du bien et du mal.
Ceci est sur le point de changer.
Alors que l'UE finalise son Loi sur l'IA et que l'IA générative continue d'évoluer rapidement, nous verrons le paysage réglementaire de l'intelligence artificielle passer de cadres généraux suggérés à des lois plus permanentes.
La loi européenne sur l'IA a suscité des conversations importantes entre les chefs d'entreprise : comment pouvons-nous nous préparer à des réglementations plus strictes en matière d'IA ? Dois-je concevoir de manière proactive une IA répondant à ce critère ? Combien de temps faudra-t-il avant qu'une réglementation similaire ne soit adoptée aux États-Unis ?
Continuez à lire pour mieux comprendre à quoi pourrait ressembler la réglementation de l'IA pour les entreprises dans un avenir proche.
Comment la loi européenne sur l'IA aura un impact sur votre entreprise
Comme celui de l'UE Règlement général sur la protection des données (RGPD) publiée en 2018, la loi européenne sur l'IA devrait devenir un norme mondiale pour la réglementation de l'IA. Le Parlement doit voter sur le projet d'ici la fin mars 2023, et si ce délai est respecté, la loi finale sur l'IA pourrait être adoptée d'ici la fin de l'année.
Il est fortement prédit que les effets de la loi sur l'IA se feront sentir au-delà des frontières de l'UE (lire : Effet Bruxelles), bien qu'il s'agisse d'une réglementation européenne. Les organisations opérant à l'échelle internationale seront tenues de se conformer directement à la législation. Pendant ce temps, les entreprises américaines et autres entreprises indépendantes se rendront rapidement compte qu'il est dans leur intérêt de se conformer à cette réglementation.
Nous commençons déjà à voir cela avec d'autres lois similaires comme celle du Canada Loi sur l'intelligence artificielle et les données proposition et la ville de New York régulation automatisée de l'emploi.
Catégories de risque du système d'IA
En vertu de la loi sur l'IA, les systèmes d'IA des organisations seront classés en trois catégories de risqueschacun avec son propre ensemble de lignes directrices et de conséquences.
- Risque inacceptable. Les systèmes d'IA qui atteignent ce niveau seront interdits. Cela inclut les systèmes de manipulation qui causent des dommages, les systèmes d'identification biométrique en temps réel utilisés dans les espaces publics pour l'application de la loi et toutes les formes de notation sociale.
- Risque élevé. Ces systèmes d'intelligence artificielle incluent des outils tels que des modèles de numérisation des candidats à un emploi et seront soumis à des exigences légales spécifiques.
- Risque limité et minime. Cette catégorie englobe de nombreuses applications d'IA que les entreprises utilisent aujourd'hui, y compris les chatbots et les outils de gestion des stocks alimentés par l'IA, et ne seront en grande partie pas réglementées. Cependant, les applications à risque limité destinées aux clients devront divulguer que l'IA est utilisée.
À quoi ressemblera la réglementation de l'IA ?
Étant donné que la loi sur l'IA est encore en cours d'élaboration et que ses effets mondiaux doivent être déterminés, nous ne pouvons pas dire avec certitude à quoi ressemblera la réglementation pour les organisations. Cependant, nous faire sachez que cela variera en fonction de l'industrie, du type de modèle que vous concevez et de la catégorie de risque dans laquelle il se situe.
La réglementation comprendra probablement examen minutieux avec un tiers, où votre modèle est soumis à des tests de résistance par rapport à la population que vous essayez de servir. Ces tests évalueront des questions telles que "Le modèle fonctionne-t-il dans des marges d'erreur acceptables ?" et 'Divulguez-vous la nature et l'utilisation de votre modèle ? '
Pour organisations avec des systèmes d'IA à haut risquela loi sur l'IA a déjà défini plusieurs exigences :
- Mise en place d'un système de gestion des risques.
- Gouvernance et gestion des données.
- Documentation technique.
- Enregistrement et journalisation.
- Transparence et information des utilisateurs.
- Surveillance humaine.
- Précision, robustesse et cybersécurité.
- Évaluation de la conformité.
- Enregistrement auprès du gouvernement de l'État membre de l'UE.
- Système de surveillance post-commercialisation.
On peut également s'attendre à des test de fiabilité pour que les modèles (similaires aux chèques électroniques pour les voitures) deviennent un service plus répandu dans l'industrie de l'IA.
Comment se préparer à la réglementation sur l'IA
De nombreux leaders de l'IA ont déjà donné la priorité à la confiance et à l'atténuation des risques lors de la conception et du développement de modèles ML. Plus tôt vous accepterez la réglementation de l'IA comme notre nouvelle réalité, plus vous réussirez à l'avenir.
Voici quelques étapes que les organisations peuvent suivre pour se préparer à une réglementation plus stricte en matière d'IA :
- Rechercher et éduquer vos équipes sur les types de réglementation qui existeront et sur leur impact sur votre entreprise aujourd'hui et à l'avenir.
- Audit vos modèles existants et planifiés. À quelle catégorie de risque s'alignent-ils et quelles réglementations associées vous impacteront le plus ?
- Développer et adopter un cadre pour concevoir des solutions d'IA responsables.
- Réfléchissez à votre Stratégie d'atténuation des risques liés à l'IA. Comment s'applique-t-il aux modèles existants et à ceux conçus dans le futur ? De quelles actions inattendues devez-vous tenir compte ?
- Établir un Stratégie de gouvernance et de reporting de l'IA qui garantit plusieurs vérifications avant la mise en ligne d'un modèle.
À la lumière de la loi sur l'IA et de la future réglementation inévitable, la conception éthique et équitable de l'IA n'est plus un « bien à avoir », mais un « must have ». Comment votre organisation peut-elle se préparer au succès ?
(Photo par Alexandre LALLEMAND sur Unsplash)
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source