Geoffrey Hinton, connu sous le nom de "Parrain de l'IA", a exprimé ses inquiétudes quant aux dangers potentiels de l'IA et a quitté son poste chez Google pour en discuter ouvertement.
Hinton, aux côtés de deux autres, a remporté le prix Turing en 2018 pour avoir jeté les bases de l'IA. Il travaillait chez Google depuis 2013 mais a démissionné pour parler du rythme rapide du développement de l'IA et des risques qu'il pose.
Dans un entretien avec le New York Times, Hinton a averti que le développement rapide des produits d'IA générative « courait vers le danger » et que les faux textes, images et vidéos créés par l'IA pourraient conduire à une situation où les gens moyens « ne pourraient pas savoir quoi n'est plus vrai.
Hinton a également exprimé des inquiétudes quant à l'impact de l'IA sur le marché du travail, car les machines pourraient éventuellement remplacer des rôles tels que les parajuristes, les assistants personnels et les traducteurs.
«L'idée que ce genre de choses pourrait en fait devenir plus intelligent que les gens – quelques personnes le croyaient. Mais la plupart des gens pensaient que c'était loin. Et je pensais que c'était loin. Je pensais que c'était dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus à cela », a déclaré Hinton.
Les inquiétudes de Hinton ne sont pas sans fondement. L'IA a déjà été utilisée pour créer des deepfakes, qui sont des vidéos qui manipulent les expressions faciales et vocales pour donner l'impression que quelqu'un dit quelque chose qu'il n'a pas dit. Ces deepfakes peuvent être utilisés pour diffuser des informations erronées ou nuire à la réputation d'une personne.
De plus, l'IA a le potentiel d'automatiser de nombreux emplois, entraînant des pertes d'emplois. Cette semaine, le PDG d'IBM, Arvind Krishna, a déclaré que l'entreprise prévoyait d'utiliser l'IA pour remplacer environ 30 % des emplois de back-office, ce qui équivaut à environ 7 800 emplois.
Hinton n'est pas seul dans ses inquiétudes. D'autres experts ont également mis en garde contre les risques de l'IA.
Elon Musk, PDG de Tesla et SpaceX, a qualifié l'IA de "notre plus grande menace existentielle". L'année suivante, le légendaire astrophysicien Neil deGrasse Tyson a déclaré qu'il partageait le point de vue de Musk. En 2018, Stephen Hawking a averti que l'IA pourrait remplacer les humains en tant qu'espèce dominante sur Terre.
En mars, Musk a rejoint le co-fondateur d'Apple Steve Wozniak et plus de 1 000 autres experts en signature une lettre ouverte appelant à l'arrêt du développement de l'IA "hors de contrôle".
Cependant, certains experts pensent que l'IA peut être développée d'une manière qui profite à la société. Par exemple, l'IA peut être utilisée pour diagnostiquer des maladies, détecter des fraudes et réduire les accidents de la circulation.
Pour s'assurer que l'IA est développée de manière responsable et éthique, de nombreuses organisations ont élaboré des lignes directrices, notamment l'IEEE, l'UE et l'OCDE.
Les préoccupations soulevées par Hinton au sujet de l'IA sont importantes et soulignent la nécessité d'un développement responsable de l'IA. Bien que l'IA ait le potentiel d'apporter de nombreux avantages à la société, il est crucial qu'elle soit développée de manière à minimiser ses risques et à maximiser ses avantages.
(Crédit d'image : Eviatar Bach sous CC BY-SA 3.0 Licence. Image recadrée à partir de l'original.)
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source