Alors que les experts en technologie tirent la sonnette d'alarme sur le rythme du développement de l'intelligence artificielle, les philanthropes, y compris les fondations établies de longue date et les milliardaires de la technologie, ont réagi en augmentant les subventions.

Une grande partie de la philanthropie se concentre sur ce que l'on appelle la technologie pour le bien ou "IA éthique", qui explore comment résoudre ou atténuer les effets néfastes des systèmes d'intelligence artificielle. Certains scientifiques pensent que l'IA peut être utilisée pour prédire les catastrophes climatiques et découvrir de nouveaux médicaments pour sauver des vies. D'autres avertissent que les grands modèles linguistiques pourraient bientôt bouleverser les professions de cols blancs, alimenter la désinformation et menacer la sécurité nationale.

Ce que la philanthropie peut faire pour influencer la trajectoire de l'IA commence à émerger. Les milliardaires qui ont fait fortune dans la technologie sont plus susceptibles de soutenir des projets et des institutions qui mettent l'accent sur les résultats positifs de l'IA, tandis que les fondations non dotées d'argent technologique ont eu tendance à se concentrer davantage sur les dangers de l'IA.

Par exemple, l'ancien PDG de Google, Eric Schmidt, et sa femme, Wendy Schmidt, ont engagé des centaines de millions de dollars dans des programmes de subventions d'intelligence artificielle hébergés à Schmidt Futures pour "accélérer la prochaine révolution scientifique mondiale". En plus d'engager 125 millions de dollars pour faire avancer la recherche sur l'IA, l'entreprise philanthropique a annoncé l'année dernière un programme de 148 millions de dollars pour aider les boursiers postdoctoraux à appliquer l'IA à la science, à la technologie, à l'ingénierie et aux mathématiques.

Dans le camp des passionnés d'IA se trouve également la Fondation Patrick McGovern, du nom du défunt milliardaire qui a fondé l'International Data Group et l'une des rares philanthropies qui ont fait de l'intelligence artificielle et de la science des données une priorité explicite en matière d'octroi de subventions. En 2021, la fondation a engagé 40 millions de dollars pour aider les organisations à but non lucratif à utiliser l'intelligence artificielle et les données pour faire avancer "leur travail pour protéger la planète, favoriser la prospérité économique, assurer la santé des communautés", selon un communiqué de presse de la fondation. McGovern dispose également d'une équipe interne d'experts en IA qui travaillent pour aider les organisations à but non lucratif à utiliser la technologie pour améliorer leurs programmes.

"Je suis un optimiste incroyable quant à la manière dont ces outils vont améliorer notre capacité à assurer le bien-être humain", déclare Vilas Dhar, président de la Fondation Patrick J. McGovern. "Ce que je pense que la philanthropie doit faire, et la société civile en général, c'est s'assurer que nous réalisons cette promesse et cette opportunité - pour s'assurer que ces technologies ne deviennent pas simplement un secteur lucratif de plus de notre économie, mais sont plutôt investies dans promouvoir l'équité humaine. Salesforce souhaite également aider les organisations à but non lucratif à utiliser l'IA. La société de logiciels a annoncé le mois dernier qu'elle allouerait 2 millions de dollars aux organisations de l'éducation, de la main-d'œuvre et du climat "pour faire progresser l'utilisation équitable et éthique d'une IA de confiance".

L'entrepreneur milliardaire et cofondateur de LinkedIn, Reid Hoffman, est un autre grand donateur qui croit que l'IA peut améliorer l'humanité et a financé des centres de recherche à l'Université de Stanford et à l'Université de Toronto pour atteindre cet objectif. Il parie que l'IA peut transformer positivement des domaines comme les soins de santé ("donner à chacun un assistant médical") et l'éducation ("donner à chacun un tuteur"), a-t-il déclaré au New York Times en mai.

L'engouement pour les solutions d'IA parmi les milliardaires de la technologie n'est cependant pas uniforme. Le fondateur d'EBay, Pierre Omidyar, a adopté une approche mixte par le biais de son réseau Omidyar, qui accorde des subventions à des organisations à but non lucratif utilisant la technologie pour l'innovation scientifique ainsi qu'à celles qui tentent de protéger la confidentialité des données et de défendre la réglementation.

"L'une des choses auxquelles nous essayons vraiment de réfléchir est de savoir comment avoir une bonne réglementation de l'IA qui soit à la fois sensible au type d'innovation qui doit se produire dans cet espace, mais également sensible aux systèmes de responsabilité publique", déclare Anamitra Deb, directrice générale du réseau Omidyar.

Les bailleurs de fonds qui ont une perspective plus sceptique ou négative sur l'IA ne constituent pas non plus un groupe uniforme ; cependant, il s'agit généralement de fondations non affiliées à l'industrie technologique.

Les fondations Ford, MacArthur et Rockefeller comptent parmi plusieurs bailleurs de fonds qui financent des organisations à but non lucratif examinant les effets néfastes de l'IA.

Par exemple, les informaticiens Timnit Gebru et Joy Buolamwini, qui ont mené des recherches cruciales sur les préjugés raciaux et sexistes à partir d'outils de reconnaissance faciale - qui ont persuadé Amazon, IBM et d'autres entreprises de se retirer de la technologie en 2020 - ont reçu des subventions importantes de leur part. et d'autres grandes fondations établies.

Gebru a lancé l'Institut de recherche sur l'intelligence artificielle distribuée en 2021 pour rechercher les effets néfastes de l'IA sur les groupes marginalisés "libres de l'influence omniprésente des Big Tech". L'institut a levé 3,7 millions de dollars en financement initial auprès de la Fondation MacArthur, de la Fondation Ford, du Kapor Center, des Open Society Foundations et de la Fondation Rockefeller. (Les fondations Ford, MacArthur et Open Society soutiennent financièrement la Chronique.)

Buolamwini poursuit ses recherches et son plaidoyer contre l'intelligence artificielle et la technologie de reconnaissance faciale par le biais de sa Ligue de justice algorithmique, qui a également reçu au moins 1,9 million de dollars de soutien des fondations Ford, MacArthur et Rockefeller ainsi que des fondations Alfred P. Sloan et Fondations Mozilla.

"Ce sont toutes des personnes et des organisations qui, je pense, ont vraiment eu un impact profond sur le domaine de l'IA lui-même, mais qui ont également vraiment attiré l'attention des décideurs politiques", déclare Eric Sears, qui supervise les subventions de MacArthur liées à l'intelligence artificielle. La Fondation Ford a également lancé un Disability x Tech Fund via Borealis Philanthropy, qui soutient les efforts de lutte contre les préjugés contre les personnes handicapées dans les algorithmes et l'intelligence artificielle.

Il y a aussi des sceptiques de l'IA parmi l'élite technologique qui accorde des subventions. Le PDG de Tesla, Elon Musk, a averti que l'IA pourrait entraîner une "destruction civilisationnelle". En 2015, il a donné 10 millions de dollars au Future of Life Institute, une organisation à but non lucratif qui vise à prévenir le "risque existentiel" de l'IA, et a dirigé une lettre récente appelant à une pause dans le développement de l'IA. Open Philanthropy, une fondation créée par le co-fondateur de Facebook Dustin Moskovitz et sa femme, Cari Tuna, a apporté un soutien majoritaire au Center for AI Safety, qui a également récemment mis en garde contre le "risque d'extinction" associé à l'IA.

Une partie importante des dons des fondations sur l'IA est également destinée aux universités qui étudient les questions éthiques. L'initiative Ethics and Governance of AI, un projet conjoint du MIT Media Lab et du Berkman Klein Center de Harvard, a reçu 26 millions de dollars de 2017 à 2022 de Luminate (le groupe Omidyar), de Reid Hoffman, de la Knight Foundation et de la William and Flora Hewlett Foundation . (Hewlett est un soutien financier de la Chronique.)

L'objectif, selon un rapport de mai 2022, était "de veiller à ce que les technologies d'automatisation et d'apprentissage automatique soient recherchées, développées et déployées d'une manière qui défende les valeurs sociales d'équité, d'autonomie humaine et de justice". Un effort de financement universitaire provient de la Fondation Kavli, qui en 2021 a engagé 1,5 million de dollars par an pendant cinq ans dans deux nouveaux centres axés sur l'éthique scientifique - avec l'intelligence artificielle comme domaine prioritaire - à l'Université de Californie à Berkeley et à l'Université de Cambridge . La Fondation Knight a annoncé en mai qu'elle dépenserait 30 millions de dollars pour créer un nouvel institut de technologie éthique à l'Université de Georgetown afin d'informer les décideurs.

Bien que des centaines de millions de dollars philanthropiques aient été engagés dans des efforts éthiques en matière d'IA, influencer les entreprises technologiques et les gouvernements reste un défi de taille.

"La philanthropie n'est qu'une goutte d'eau dans l'océan par rapport aux plates-formes technologiques de la taille de Goliath, aux sociétés d'intelligence artificielle de la taille de Goliath, aux régulateurs et aux décideurs politiques de la taille de Goliath qui peuvent réellement s'y attaquer", déclare Deb du réseau Omidyar.

Même avec ces obstacles, les dirigeants de fondations, les chercheurs et les défenseurs conviennent largement que la philanthropie peut – et devrait – façonner l'avenir de l'IA.

"L'industrie est si dominante dans la définition non seulement de la portée du développement des systèmes d'IA dans l'espace universitaire, mais elle façonne également le domaine de la recherche", déclare Sarah Myers West, directrice générale de l'AI Now Institute. "Et alors que les décideurs politiques cherchent à vraiment tenir ces entreprises responsables, il est essentiel que les bailleurs de fonds interviennent et fournissent un soutien aux organisations en première ligne pour s'assurer que l'intérêt public plus large est pris en compte."

© 2023 L'Associated Press. Tous droits réservés. Ce matériel ne peut être publié, diffusé, réécrit ou redistribué sans autorisation.