Une nouvelle étude publiée dans Ordinateurs dans le comportement humain suggère qu'un effet placebo est en jeu lorsque les gens s'attendent à ce que leurs performances soient améliorées par des technologies d'augmentation, telles que l'intelligence artificielle (IA). Les chercheurs ont découvert que les personnes ayant de grandes attentes à l'égard de ces technologies s'engagent dans des prises de décision plus risquées, ce qui pourrait être un problème car les gens adoptent ces technologies sans bien comprendre leurs avantages et leurs limites.

Les technologies d'augmentation boostant nos performances physiques, cognitives ou sensorielles sont devenues monnaie courante. Certains sont si largement utilisés qu'ils sont devenus invisibles - la vérification orthographique, par exemple - et de nouvelles technologies émergent qui pourraient pousser nos capacités au-delà des limites humaines, comme les exosquelettes et l'amélioration de la vision basée sur l'IA. Mais le battage médiatique autour de ces technologies crée également des attentes, ce qui pourrait amener les gens à changer de comportement.

"Les individus sont plus enclins à prendre des risques lorsqu'ils pensent qu'ils sont améliorés par des technologies de pointe comme l'IA ou les interfaces cerveau-ordinateur", explique Robin Welsch, professeur adjoint à l'Université Aalto. "Cela se produit même si aucune technologie d'amélioration réelle n'est impliquée, ce qui indique qu'il s'agit des attentes des gens plutôt que d'une amélioration notable. Les résultats impliquent également qu'une forte croyance en l'amélioration, basée sur un faux système, peut modifier la prise de décision."

Ne faites pas confiance au processeur

En collaboration avec des collègues de LMU Munich, HU Berlin et de l'Université Aalto, Welsch a mesuré la prise de décision et le comportement à risque avec une expérience psychologique bien connue, la Columbia Card Task. Dans l'expérience, les participants gagnent ou perdent des points en retournant des cartes avec des valeurs cachées. Les 27 participants ont été amenés à croire qu'une interface cerveau-ordinateur contrôlée par l'IA, le placebo, améliorerait leurs capacités cognitives en utilisant des sons binauraux pour suivre les cartes de perte.

Mais le jeu était truqué - l'augmentation n'apportait aucun avantage réel et les participants ne rencontraient presque jamais de carte de perte. Pourtant, la plupart des participants pensaient que l'augmentation les avait aidés à faire mieux, ce qui les avait fait prendre plus de risques. Ces résultats montrent comment de fausses améliorations cognitives peuvent avoir des effets réels sur la prise de risque.

"Le battage médiatique autour de ces technologies fausse les attentes des gens", déclare Steeven Villa, doctorant au LMU Munich. "Cela peut amener les gens à prendre des décisions plus risquées et des évaluations favorables des utilisateurs, ce qui peut avoir de réelles conséquences."

La technologie n'est jamais neutre

Des outils modernes d'amélioration de la vision basés sur l'IA deviennent disponibles pour que les pompiers puissent voir à travers la fumée, et les ouvriers d'usine profitent déjà des exosquelettes pour manipuler des charges qui défient le physique humain. Les effets rampants des systèmes d'IA générative pourraient offrir des avantages similaires aux travailleurs du savoir. Les auteurs craignent que des professions entières ne développent un plus grand appétit pour les risques, fondé sur des attentes erronées.

"Les technologies basées sur l'IA qui améliorent les utilisateurs sont de plus en plus courantes et jouent un rôle dans les décisions réelles qui ont un impact sur la vie, le bien-être, la confiance et la sécurité des gens", déclare Thomas Kosch, professeur à HU Berlin. "Pour garantir l'efficacité des nouvelles technologies au-delà du battage médiatique, des études contrôlées par placebo sont nécessaires pour une évaluation et une validation précises afin de distinguer l'huile de serpent de la véritable innovation."