Depuis la sortie de ChatGPT fin 2022, de nombreux médias ont fait état des menaces éthiques posées par l'intelligence artificielle. Des experts en technologie ont émis des avertissements concernant les robots tueurs qui s'attaquent à eux. extinction humainealors que le Forum économique mondial prédisait que les machines va supprimer des emplois.

Le secteur technologique est réduire ses effectifs même si investit dans des outils de productivité améliorés par l’IA. Les écrivains et acteurs d'Hollywood sont en grève pour protéger leurs métiers et leurs portraits. Et les chercheurs continuent de montrer comment ces systèmes accroître les préjugés existants ou créer des emplois dénués de sens – parmi une myriade d’autres problèmes.

Il existe une meilleure façon d’introduire l’intelligence artificielle sur les lieux de travail. Je sais, parce que je l'ai vu, en tant que sociologue qui travaille avec les équipes de robots spatiaux de la NASA.

Les scientifiques et ingénieurs que j'étudie sont occupés à explorer la surface de Mars avec l'aide de rovers équipés d'IA. Mais leur travail n’a rien de fantastique. C’est un exemple de la puissance de tisser ensemble la machine et l’intelligence humaine, au service d’un objectif commun.

Au lieu de remplacer les humains, ces robots s’associent à nous pour étendre et compléter les qualités humaines. En cours de route, ils évitent les pièges éthiques courants et tracent une voie humaine pour travailler avec l’IA.

Le mythe du remplacement dans l’IA

Les histoires de robots tueurs et de pertes d’emplois illustrent comment un « mythe du remplacement » domine la façon dont les gens perçoivent l’IA. De ce point de vue, les humains peuvent et seront remplacé par des machines automatisées.

Au milieu de la menace existentielle se cache la promesse de bénéfices commerciaux comme une plus grande efficacité, marges bénéficiaires améliorées et plus de temps libre.

Des preuves empiriques montrent que l’automatisation ne réduit pas les coûts. Au lieu de cela, cela accroît les inégalités de suppression des travailleurs à statut inférieur et augmenter le coût salarial pour les travailleurs de haut statut qui restent. Pendant ce temps, les outils de productivité d'aujourd'hui incitent les employés à travailler plus pour leurs employeurs, pas moins.

Les alternatives au remplacement pur et simple sont les systèmes « à autonomie mixte », dans lesquels les personnes et les robots travaillent ensemble. Par exemple, les voitures autonomes doivent être programmées pour opérer dans la circulation aux côtés de conducteurs humains. L’autonomie est « mixte » car les humains et les robots opèrent dans le même système et leurs actions s’influencent mutuellement.

Cependant, l’autonomie mixte est souvent considérée comme une étape en route vers le remplacement. Et cela peut conduire à des systèmes dans lesquels les humains se contentent de alimenter, organiser ou enseigner des outils d'IA. Cela impose aux humains "travail fantôme"- des tâches insensées et fragmentaires que les programmeurs espèrent que l'apprentissage automatique rendra bientôt obsolètes.

Le remplacement soulève des signaux d’alarme pour l’éthique de l’IA. Travailler comme baliser le contenu pour entraîner l'IA ou nettoyer les publications Facebook comporte généralement tâches traumatisantes et une main d'oeuvre mal payée répartis sur le Sud global. Et des légions de concepteurs de véhicules autonomes sont obsédés par "le problème du chariot"... déterminer quand ou s'il est éthique d'écraser des piétons.

Mais mes recherches avec les équipes de vaisseaux spatiaux robotiques de la NASA montre que lorsque les entreprises rejettent le mythe du remplacement et optent plutôt pour la constitution d’équipes homme-robot, de nombreux problèmes éthiques liés à l’IA disparaissent.

Prolonger plutôt que remplacer

Des équipes homme-robot solides fonctionnent mieux quand ils étendre et augmenter capacités humaines au lieu de les remplacer. Les ingénieurs fabriquent des machines capables d’effectuer un travail que les humains ne peuvent pas effectuer. Ensuite, ils tissent intelligemment la machine et le travail humain, travailler vers un objectif commun.

Souvent, ce travail d’équipe consiste à envoyer des robots effectuer des tâches physiquement dangereuses pour les humains. Déminagechercher et sauver, sorties dans l'espace et mer profonde les robots sont tous des exemples du monde réel.

Le travail d'équipe signifie également tirer parti des forces combinées de sens ou intelligences robotiques et humains. Après tout, les robots possèdent de nombreuses capacités que les humains ne possèdent pas, et vice versa.

Par exemple, les yeux humains sur Mars ne peuvent voir qu’un terrain rouge poussiéreux faiblement éclairé s’étendant jusqu’à l’horizon. Les ingénieurs équipent donc les rovers martiens avec filtres de caméra pour « voir » des longueurs d'onde de lumière que les humains ne peuvent pas voir dans l'infrarouge, renvoyant des images brillantes fausses couleurs.

Pendant ce temps, l’IA embarquée des rovers ne peut pas générer de découvertes scientifiques. Ce n'est qu'en combinant les résultats colorés des capteurs avec les discussions d'experts que les scientifiques peuvent utiliser ces yeux robotiques pour découvrez de nouvelles vérités sur Mars.

Des données respectueuses

Un autre défi éthique de l’IA concerne la manière dont les données sont collectées et utilisées. L'IA générative est formée sur le travail des artistes et des écrivains sans leur consentement, les ensembles de données commerciales sont plein de préjugéset ChatGPT "hallucine" réponses aux questions.

Les conséquences concrètes de cette utilisation des données dans l’IA vont de poursuites à le profilage racial.

Les robots sur Mars s’appuient également sur des données, de la puissance de traitement et des techniques d’apprentissage automatique pour faire leur travail. Mais les données dont ils ont besoin sont des informations visuelles et à distance pour générer des sentiers carrossables ou suggérer de nouvelles images sympas.

En se concentrant sur le monde qui les entoure plutôt que sur nos mondes sociaux, ces systèmes robotiques évitent le questions autour de la surveillance, biais et exploitation qui tourmentent l'IA d'aujourd'hui.

L'éthique des soins

Les robots peuvent fédérer les groupes qui fonctionnent avec eux en suscitant des émotions humaines lorsqu’ils sont intégrés de manière transparente. Par exemple, des soldats chevronnés pleurez les drones brisés sur le champ de batailleet les familles donnent des noms et des personnalités à leurs Roombas.

J'ai vu des ingénieurs de la NASA fondre en larmes anxieuses lorsque les rovers Spirit et Opportunity furent menacés par des tempêtes de poussière martiennes.

Contrairement à anthropomorphisme— projeter des caractéristiques humaines sur une machine — ce sentiment naît d’un sentiment d’attention portée à la machine. Il se développe à travers des interactions quotidiennes, des réalisations mutuelles et une responsabilité partagée.

Lorsque les machines inspirent un sentiment d’attention, elles peuvent souligner, et non affaiblir, les qualités qui font les gens humains.

Une meilleure IA est possible

Dans les secteurs où l’IA pourrait être utilisée pour remplacer les travailleurs, les experts en technologie pourraient réfléchir à la manière dont des partenariats homme-machine intelligents pourraient améliorer les capacités humaines au lieu de les nuire.

Les équipes de rédaction de scripts apprécieront peut-être un agent artificiel capable de rechercher des dialogues ou des références croisées à la volée. Les artistes pourraient écrire ou organiser leurs propres algorithmes pour alimenter la créativité et conserver le crédit de leur travail. Les robots destinés à soutenir les équipes logicielles pourraient améliorer la communication lors des réunions et détecter les erreurs résultant de la compilation du code.

Bien entendu, refuser le remplacement ne signifie pas éliminer tous les problèmes éthiques avec l'IA. Mais de nombreux problèmes liés aux moyens de subsistance humains, à l’action et aux préjugés changent lorsque le remplacement n’est plus l’objectif.

Le fantasme du remplacement n’est qu’un des nombreux avenirs possibles pour l’IA et la société. Après tout, personne ne regarderait "Star Wars" si les droïdes remplaçaient tous les protagonistes. Pour une vision plus éthique de l’avenir de l’humanité grâce à l’IA, vous pouvez vous tourner vers les équipes homme-machine qui sont déjà bien vivantes, dans l’espace et sur Terre.

Cet article est republié à partir de La conversation sous licence Creative Commons. Lis le article original.