La fracture de l'intelligence artificielle (IA) entre les pays industrialisés et les pays en développement ne concerne pas seulement la capacité d'accéder aux nouvelles technologies et de les utiliser. Il s'agit également pour les gouvernements et les entreprises locales du monde entier de pouvoir créer leurs propres outils d'IA, à la fois pour tirer parti de leur potentiel et mieux atténuer leurs risques.

Un problème clé avec l'IA qui doit être résolu est la propriété équitable des systèmes d'IA et l'accès aux avantages. Cette question rejoint le défi posé par la fracture numériquecar l'accélération de la numérisation a creusé le fossé social et économique entre ceux qui peuvent accéder à Internet et ceux qui ne le peuvent pas.

Les politiques liées à la normalisation et à la réglementation de l'intelligence artificielle sont définies par des initiatives de la société civile, des entreprises du secteur privé et des gouvernements nationaux. Cependant, depuis 2021, il y a eu intensifier les efforts en faveur de la gouvernance mondiale. Plus récemment, un Organe consultatif multipartite des Nations Unies sur l'intelligence artificielle a été annoncé.

Approches modèles

Bon nombre des risques qui ont été observés dans l'IA - discrimination, stéréotypes, manque général d'adéquation aux différents contextes géographiques et culturels spécifiques - sont dus à l'utilisation de modélisation informatique par les systèmes d'IA. La modélisation informatique fournit une représentation simplifiée de la réalité qui est ensuite utilisée pour faire des prédictions.

L'utilisation de modèles a une riche lignée dans les traditions de pensée occidentales. Il évoque Platon théorie des formesce qui suggère que le domaine matériel est une pâle imitation du domaine des concepts ou des formes, qui représentent l'essence intangible.

Aujourd'hui, le mot « modèle » est associé à un large éventail d'idéaux auxquels nous devrions aspirer - le terme « modèle de rôle » vient à l'esprit. Même le métier de mannequin est devenu un archétype à refléter, les mannequins professionnels étant considérés comme représentant un idéal de beauté.

Le problème des modèles

Dans les années 1980 et 1990, on a beaucoup critiqué les modèles économiques promus dans les pays en développement par les institutions financières internationales. Celles-ci ont été critiquées notamment par l'économiste américain et lauréat du prix Nobel Joseph Stiglitz pour avoir utilisé une "taille unique" approche qui a eu des effets négatifs sur les économies de plusieurs pays.

Non seulement les actifs financiers sont connectés à l'IA concentré dans quelques nations, mais les façons de penser à l'IA elle-même sont également centralisées. La plupart des grands modèles d'IA sont conçus par quelques entreprises aux États-Unis et en Chine, à l'aide de données de formation qui reflètent en grande partie leur propre cultureet souvent par des développeurs qui ne comprennent pas les circonstances locales au-delà des leurs.

Par exemple, alors que plus d'un tiers de la population mondiale utilise Facebookles algorithmes qui le pilotent, tels que les recommandations de contenu, les suggestions de contacts et la reconnaissance faciale, ont été principalement conçus à l'aide de des données accessibles aux développeurs américains.

Cela signifie que, comme de nombreux autres modèles défectueux dans le passé, les modèles d'IA biaisés peuvent ne pas refléter avec précision le contexte dans lequel ils sont appliqués, car les données sous-jacentes utilisées pour les construire sont elles-mêmes non représentatives.

Au fil des ans, les biais inclus dans ces modèles sont devenus apparents. Ces problèmes vont de l'incapacité à identifier avec précision les personnes divers tons de peauà produisant des résultats discriminatoires pour différents groupes et le exclusion de populations spécifiques.

De tels résultats ne sont pas tout à fait inattendus, compte tenu du contexte historique et géopolitique de l'impact des modèles. Comme nous l'avons observé, des modèles de toutes sortes, qu'ils se rapportent à l'économie ou à la technologie, peuvent être potentiellement dangereux s'ils sont mal appliqués.

Localisation des modèles

L'IA a poussé le concept de modèles assez loin - le potentiel social et économique est énorme, mais seulement si les modèles sont correctement calibrés. Une solution essentielle à cela tourne autour de l'idée de localisation du modèle : les systèmes d'IA les plus adaptés et les plus pertinents doivent être ancrés dans les contextes locaux.

Cela nécessite décoloniser les données et IA. Ce sentiment reflète également la propension croissante à souveraineté numériquepermettant aux nations de gérer indépendamment leur infrastructure numérique, leur matériel, leurs réseaux et leurs installations.

Mes recherches sur transplantation, adaptation et création (TAC) approches étudie les utilisations de l'IA en santé publique à l'échelle mondiale. Pendant la pandémie de COVID-19, des modèles d'IA ont été utilisés pour planifier les services de santé, communiquer avec le public et suivre la propagation de la maladie.

La pandémie a mis en évidence les variations du paysage géographique et culturel qui ont nécessité une approche nuancée de la modélisation. L'approche TAC examine chaque application de l'IA en considérant si elle a été transplantée directement à partir d'un autre contexte sans modification ; adapté ou modifié à partir d'un autre modèle ; ou créé localement.

Comprendre le défi

Pour remédier à la fracture mondiale de l'IA, il faut comprendre que nous sommes confrontés, au moins en partie, à un problème de modélisation, similaire aux problèmes de modélisation passés. L'un des défis auxquels les décideurs politiques seront donc confrontés est d'évaluer comment s'assurer que les modèles d'IA peuvent être développés et déployés par autant de pays que possible, leur permettant de bénéficier de leur potentiel.

Des solutions, telles que l'application du cadre TAC, nous amènent vers la localisation des modèles, garantissant que les applications de l'IA s'adaptent autant que possible aux diverses réalités mondiales.

Cet article est republié de La conversation sous licence Creative Commons. Lis le article original.