L'intelligence artificielle (IA) s'appuie sur ses créateurs pour la formation, également connue sous le nom de « machine learning ». L'apprentissage automatique est le processus par lequel la machine génère son intelligence grâce à des entrées extérieures.

Mais son comportement est déterminé par les informations qui lui sont fournies. Et pour le moment, l’IA est un champ dominé par les hommes blancs.

Comment pouvons-nous garantir que l’évolution de l’IA n’empiète pas davantage sur les droits des Autochtones et la souveraineté des données ?

Les risques de l’IA pour l’art autochtone

L'IA a la capacité de générer de l'art, et tout le monde peut "créer" L'art indigène utilisant cette machine. Même avant l'IA, L'art aborigène a été largement approprié et reproduit sans attribution ni reconnaissance, en particulier pour les industries touristiques.

Et cela pourrait s’aggraver étant donné que les gens sont désormais capables de créer de l’art. grâce à l'IA. Il s’agit d’un problème qui ne concerne pas uniquement les peuples autochtones, de nombreux artistes touchés par leurs styles artistiques sont détournés.

L’art autochtone est ancré dans l’histoire et est lié à la culture et au pays. L’art autochtone créé par l’IA manquerait de cela. Il y a également des implications en termes de gains financiers qui contournent les artistes autochtones et vont aux producteurs de la technologie.

Inclure les peuples autochtones dans la création de l’IA ou dans la décision sur ce que l’IA peut apprendre pourrait contribuer à minimiser l’exploitation des artistes autochtones et de leur art.

Qu’est-ce que la souveraineté des données autochtones ?

En Australie, il existe une longue histoire de collecte de données « sur » les aborigènes et les insulaires du détroit de Torres. Mais peu de données ont été collectées « pour » ou « avec » les aborigènes et les insulaires du détroit de Torres. Les spécialistes aborigènes Maggie Walter et Jacon Prehn écrivent à ce propos dans le contexte d'une Mouvement pour la souveraineté des données autochtones.

La souveraineté des données autochtones concerne les droits des peuples autochtones de posséder, de contrôler, d'accéder et de posséder leurs propres données, et de décider à qui les donner. À l'échelle mondialeles peuples autochtones font pression pour des accords formels sur Souveraineté des données autochtones.

De nombreux peuples autochtones s’inquiètent de la manière dont les données liées à nos connaissances et à nos pratiques culturelles sont utilisées. Cela a amené certains avocats autochtones à trouver des moyens de intégrer propriété intellectuelle avec droits culturels.

Karaitiana Taiuru, érudit maori dit:

"Si les peuples autochtones n'ont pas la souveraineté sur leurs propres données, ils seront tout simplement recolonisés dans cette société de l'information."

Comment la foule utilise l'IA

Les peuples autochtones collaborent déjà à des recherches qui s’appuient sur les connaissances autochtones et font appel à l’IA.

Dans les zones humides de Kakadu, les gardes forestiers utilisent l'IA et les connaissances autochtones pour prendre soin du pays.

Une mauvaise herbe appelée paragrass a un impact négatif sur les oies pies, qui sont en déclin. Même si les rangers de Kakadu font de leur mieux pour contrôler le problème, la taille même de la zone (deux millions d'hectares) rend la tâche difficile.

La collecte et l'analyse d'informations sur les oies pies et l'impact de l'herbe para à l'aide de drones ont un impact influence positive sur le nombre d'oies.

Des projets comme ceux-ci sont vitaux compte tenu de la perte de biodiversité dans le monde, qui entraîne l’extinction d’espèces et la perte d’écosystèmes à un rythme alarmant. Grâce à cette collaboration, des milliers d’oies pies reviennent au pays pour se percher.

Ce projet implique des propriétaires fonciers traditionnels (collectivement connus sous le nom de Bininj au nord du parc national de Kakadu et Mungguy au sud) travaillant avec des gardes forestiers et des chercheurs pour aider à protéger l'environnement et préserver la biodiversité.

En travaillant avec les propriétaires traditionnels, les systèmes de surveillance ont pu être programmés avec des connaissances géographiquement spécifiques, non enregistrées autrement, reflétant le lien des peuples autochtones avec la terre. Cette collaboration met en évidence la nécessité de garantir des approches dirigées par les Autochtones.

Dans un autre exemple, à Sanikiluaq, une communauté inuite du Nunavut, au Canada, un projet appelé PolArtique utilise des données scientifiques et des connaissances autochtones pour évaluer l’emplacement et gérer les pêcheries.

Les changements climatiques affectent la disponibilité du poisson, et ceci est un autre exemple où les connaissances autochtones apportent des solutions aux problèmes de biodiversité causés par la crise climatique mondiale.

Innumérique est une entreprise autochtone à but lucratif fondée par Dharug, innovateur de Cabrogal Mikaela Jade. Jade a travaillé avec les propriétaires traditionnels de Kakadu pour utiliser la réalité augmentée raconter leurs histoires sur Country.

Indigital offre également des voies à la foule désireuse d'en apprendre davantage sur les technologies numériques et de les combiner avec leurs connaissances.

Défis et opportunités futurs pour l’inclusion des Autochtones

Bien que l’IA soit un outil puissant, elle est limitée par les données qui l’alimentent. Le succès des projets ci-dessus est dû au fait que l’IA s’est appuyée sur les connaissances autochtones, fournies par les détenteurs de connaissances autochtones qui entretiennent une relation ancestrale de longue date avec la terre, les animaux et l’environnement.

Les recherches indiquent que l’IA est une industrie dominée par les hommes blancs. Une étude mondiale a révélé 12% des professionnels à tous les niveaux, il y avait des femmes, avec seulement 4 % d’entre elles étant des personnes de couleur. La participation autochtone n’a pas été notée.

Début juin, le gouvernement australien Une IA sûre et responsable en Australie Le document de discussion a révélé que les préjugés raciaux et sexistes étaient évidents dans l’IA. Des préjugés raciaux se sont produits, selon le document, dans des situations telles que celles où l’IA a été utilisée pour prédire un comportement criminel.

Le but de l’étude était de recueillir des commentaires sur la manière de réduire les risques potentiels de préjudice liés à l’IA. Les groupes consultatifs et les processus de consultation ont été évoqués comme des possibilités pour résoudre ce problème, mais n'ont pas été explorés de manière réellement approfondie.

Les savoirs autochtones ont beaucoup à offrir dans le développement de nouvelles technologies, notamment l’IA. L'art fait partie de nos cultures, de nos cérémonies et de notre identité. L’art généré par l’IA présente le risque d’une reproduction massive sans apport ni propriété autochtone, ainsi que d’une fausse représentation de la culture.

Le gouvernement fédéral doit prendre en compte les connaissances autochtones pour éclairer l’apprentissage automatique qui éclaire l’IA, soutenant ainsi la souveraineté des données. Il existe une opportunité pour l’Australie de devenir un leader mondial dans la poursuite éthique du progrès technologique.

Cet article est republié à partir de La conversation sous licence Creative Commons. Lis le article original.