Un conseiller du groupe de travail sur l'intelligence artificielle du Premier ministre britannique a un avertissement sévère : l'IA menacera les humains dans deux ans.
Le conseiller, Matt Clifford, a déclaré dans une interview à TalkTV que les humains disposent d'une fenêtre étroite de deux ans pour contrôler et réguler l'IA avant qu'elle ne devienne trop puissante.
« Les risques à court terme sont en fait assez effrayants. Vous pouvez utiliser l'IA aujourd'hui pour créer de nouvelles recettes d'armes biologiques ou pour lancer des cyberattaques à grande échelle », a déclaré Clifford.
"Vous pouvez avoir des menaces vraiment très dangereuses pour les humains qui pourraient tuer de nombreux humains - pas tous les humains - simplement d'où nous nous attendrions à ce que les modèles soient dans deux ans."
Clifford, qui préside également l'Agence gouvernementale pour la recherche avancée et l'invention (ARIA), a souligné la nécessité d'un cadre qui traite de la sécurité et de la réglementation des systèmes d'IA.
Dans l'interview, Clifford a souligné les capacités croissantes des systèmes d'IA et le besoin urgent de prendre en compte les risques qui leur sont associés. Il a averti que si la sécurité et les réglementations ne sont pas mises en place, ces systèmes pourraient devenir très puissants d'ici deux ans, posant des risques importants à court et à long terme.
Il a fait référence à une lettre ouverte signée par 350 experts en IA, dont le PDG d'OpenAI, Sam Altman, qui appelait à traiter l'IA comme une menace existentielle semblable aux armes nucléaires et aux pandémies.
"Le genre de risque existentiel dont parlaient les auteurs de la lettre, je pense, concerne … ce qui se passe une fois que nous avons effectivement créé une nouvelle espèce, une intelligence supérieure à celle des humains", explique Clifford.
Clifford a poursuivi en soulignant l'importance de comprendre et de contrôler les modèles d'IA, déclarant que le manque de compréhension concernant leur comportement est une préoccupation importante. Il a souligné la nécessité d'un processus d'audit et d'évaluation avant le déploiement de modèles puissants, un sentiment partagé par de nombreux leaders du développement de l'IA.
« Je pense que la chose sur laquelle nous devons nous concentrer maintenant est de savoir comment nous assurer que nous savons comment contrôler ces modèles, car ce n'est pas le cas actuellement », déclare Clifford.
Partout dans le monde, les régulateurs sont aux prises avec les progrès rapides de l'IA et les complexités et les implications qu'elle introduit. Les régulateurs visent à trouver un équilibre entre la protection des utilisateurs et la promotion de l'innovation.
Au Royaume-Uni, un membre du Parti travailliste de l'opposition a fait écho aux préoccupations soulevées dans la lettre du Center for AI Safety, appelant à ce que la technologie soit réglementée au même titre que la médecine et l'énergie nucléaire.
Lors d'une visite aux États-Unis, le Premier ministre britannique Rishi Sunak devrait présenter un organisme mondial de surveillance de l'IA basé à Londres. Sunak a déclaré qu'il "examinait très attentivement" le risque d'extinction posé par l'IA.
L'UE, quant à elle, a même proposé l'étiquetage obligatoire de tous les contenus générés par l'IA pour lutter contre la désinformation.
Avec seulement un délai limité pour agir, les décideurs politiques, les chercheurs et les développeurs doivent collaborer pour assurer le développement et le déploiement responsables des systèmes d'IA, en tenant compte des risques potentiels et des implications associés à leur évolution rapide.
Vous pouvez voir l'interview complète avec Clifford ci-dessous:
(Photo par Goh Rhy Yan sur Unsplash)
En rapport: Plus de 1 000 experts appellent à l'arrêt du développement "hors de contrôle" de l'IA
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source