La technologie de l'IA a le pouvoir de changer le monde, a déclaré Stuart Russell, professeur d'informatique à l'UC Berkeley et expert de premier plan en IA. Cela pourrait améliorer la qualité de vie des habitants de la planète ou détruire la civilisation, a-t-il déclaré. Lors d'un événement le 5 avril, il a exhorté les deux entreprises à faire évoluer la façon dont elles construisent l'IA et les pays à réglementer l'IA pour s'assurer qu'elle favorise les intérêts humains.

"L'intelligence signifie vraiment le pouvoir de façonner le monde dans votre intérêt, et si vous créez des systèmes plus intelligents que les humains, individuellement ou collectivement, vous créez des entités plus puissantes que nous", a déclaré Russell lors de la conférence organisée par le CITRIS Research Exchange et le Berkeley AI Research Lab. "Comment pouvons-nous conserver le pouvoir sur des entités plus puissantes que nous, pour toujours?"

« Si nous poursuivons [our current approach], nous finirons par perdre le contrôle des machines. Mais, nous pouvons emprunter une voie différente qui mène en fait à des systèmes d'IA bénéfiques pour les humains », a déclaré Russell. « Nous pourrions, en fait, avoir une meilleure civilisation.

Les versions de chatbots comme ChatGPT ont fourni au public un aperçu de ce que l'IA peut faire et de ses opportunités et dangers futurs. Mais la chance de changer le monde - et les 13,5 quadrillions de dollars que Russell décrit comme une estimation "faible" pour la création de valeur prévue par AGI - ralentissent une demande à enjeux élevés.

Les systèmes d'IA existants comme ChatGPT fonctionnent dans une boîte noire, a déclaré Russell. Il n'est pas clair si ces outils ont leurs propres objectifs, si ces objectifs s'alignent sur les nôtres ou s'ils peuvent poursuivre leurs objectifs, a-t-il déclaré. Des cas comme celui où un chatbot a professé à plusieurs reprises son amour à un New York Times journaliste, qui a repoussé les avances du bot, suggère qu'ils pourraient le faire, a-t-il déclaré.

L'IA devrait plutôt être conçue pour promouvoir les intérêts humains, reconnaître qu'elle ne sait pas quels sont ces intérêts et rechercher des preuves pour identifier et agir en conséquence, a déclaré Russell. Cela nécessiterait de repenser les concepts d'IA tels que la planification, l'apprentissage par renforcement et l'apprentissage supervisé qui reposent sur la connaissance de l'objectif à l'avance. Il doit également être développé de manière "fondée", avec une compréhension rigoureuse de tous les composants et de leur interaction. Cela nous permettra de prédire comment ces systèmes se comporteront, a-t-il déclaré.

"Je ne connais tout simplement pas d'autre moyen d'obtenir une confiance suffisante dans le comportement de ces systèmes", a déclaré Russell.

Même si les technologies sont construites sur cette base, il doit y avoir des règles interdisant la diffusion d'IA non sûres, a-t-il déclaré.

La dernière "technologie mettant fin à la civilisation" - l'énergie atomique - a fait l'objet d'une gouvernance intense et d'un soin extrême de la part de ses ingénieurs, a déclaré Russell. Même les domaines technologiques moins chargés, comme l'aviation, sont méticuleusement réglementés. L'IA devrait l'être aussi, a-t-il dit.

Il existe déjà un cadre juridique international définissant ce qu'est une IA responsable et définissant des recommandations connexes, a déclaré Russell. Les développeurs doivent être en mesure de démontrer que l'IA est robuste, prévisible et ne présente pas de risque indu pour la société avant son déploiement. Les entreprises doivent respecter ces principes et les pays doivent les transformer en règles, a-t-il déclaré.

"Vous ne devez pas déployer des systèmes dont vous ne comprenez pas les principes de fonctionnement internes, qui peuvent ou non avoir leurs propres objectifs internes qu'ils poursuivent et qui, selon vous, montrent des" étincelles d'AGI "", a-t-il déclaré, faisant référence à un article récent écrit par des chercheurs de Microsoft affirmant que le GPT-4 d'OpenAI montre "des étincelles d'intelligence générale artificielle".

"Si nous croyons que nous avons des étincelles d'IAG, c'est une technologie qui pourrait complètement changer la face de la Terre et de la civilisation", a déclaré Russell. "Comment ne pouvons-nous pas prendre cela au sérieux?"