Alors que l'intelligence artificielle (IA) et les outils d'apprentissage automatique sont désormais couramment utilisés pour améliorer les applications technologiques, les fondements de bon nombre de ces outils sont difficiles à déchiffrer. En effet, la plupart d'entre eux sont basés sur des modèles de «boîte noire», des modèles qui analysent les données et apprennent à faire des prédictions à leur sujet, mais qui ne partagent pas les processus derrière ces prédictions avec les utilisateurs humains.

Les chercheurs de Meta Reality Labs ont récemment créé XAIR, un cadre qui pourrait aider les développeurs à rendre plus faciles à comprendre les processus qui sous-tendent les prédictions de l'IA. Ce cadre, introduit dans un article présenté et publié dans le cadre du Actes de la conférence CHI 2023 sur les facteurs humains dans les systèmes informatiquesest spécifiquement conçu pour créer des systèmes d'IA explicables (XAI) qui peuvent être appliqués dans divers contextes de réalité augmentée (AR).

"Alors que les modèles de boîte noire sont de plus en plus utilisés dans la vie quotidienne, nous sommes de plus en plus préoccupés par le fait que les humains abusent de l'IA et perdent le contrôle", ont déclaré Xuhai Xu et Anna Yu, deux des chercheurs qui ont mené l'étude, à Tech Xplore. "Cela a conduit à la nécessité de rendre les algorithmes plus faciles à comprendre, ce qui a conduit à la montée en puissance de XAI. Des études existantes ont montré que XAI peut aider les utilisateurs finaux à résoudre la confusion et à instaurer la confiance. Par conséquent, les praticiens industriels ont essayé d'utiliser XAI pour améliorer l'utilisateur expériences."

La technologie AR permet aux utilisateurs de visualiser une version modifiée de leur environnement, qui intègre des éléments numériques, des sons et/ou des améliorations visuelles. Ces versions « améliorées numériquement » de la réalité peuvent être visualisées via des écrans montés sur la tête, des lunettes, d'autres équipements portables et même simplement via l'écran du smartphone.

Récemment, certains chercheurs ont exploré l'utilisation de l'IA pour améliorer les applications AR, par exemple en les rendant plus réactives aux changements dans l'environnement d'un utilisateur ou en leur permettant d'analyser et de faire des prédictions sur des objets spécifiques. Xu, Yu et leurs collègues ont entrepris de créer un cadre qui pourrait rendre les résultats de ces outils d'IA pour les applications AR plus faciles à comprendre, augmentant ainsi la confiance des utilisateurs en eux.

"Comme les modèles d'IA seront nécessaires pour la RA quotidienne sensible au contexte, XAI sera également essentiel car les utilisateurs finaux interagiront avec toutes sortes de résultats d'IA", ont déclaré Xu et Yu. « XAI peut être utile à bien des égards, par exemple en rendant le comportement de RA intelligent interprétable, en résolvant la confusion ou la surprise pour des résultats d'IA inattendus, en promouvant la sensibilisation à la confidentialité et en renforçant la confiance. Compte tenu de l'importance de XAI pour la RA, nous visons à répondre à la question de recherche sur la bonne façon de créer des expériences XAI efficaces pour la RA dans des scénarios quotidiens."

L'équipe de Meta a créé le framework XAIR en espérant qu'il faciliterait la conception de XAI pour les applications AR. Leur cadre aborde essentiellement trois questions ouvertes : quand, quoi et comment ? Les réponses à ces questions peuvent être utilisées pour fournir des explications plus efficaces pour les prédictions de l'IA dans les scénarios de RA. En plus d'aider les développeurs à créer une IA capable de répondre à ces trois questions, XAIR décrit une série de lignes directrices clés pour les chercheurs et les développeurs travaillant sur XAI pour les applications AR.

"Nous avons identifié cinq facteurs clés sur la base d'une revue de la littérature à grande échelle", ont expliqué Xu et Yu. "Ces facteurs déterminent la conception des aspects "quand, quoi, comment", y compris deux facteurs spécifiques à la RA : l'état de l'utilisateur et les informations contextuelles, et trois facteurs non spécifiques à la RA : l'objectif du système, l'objectif de l'utilisateur et le profil de l'utilisateur."

Essentiellement, pour utiliser le cadre de l'équipe, les développeurs doivent d'abord aborder ces cinq facteurs, en identifiant les informations contextuelles sur leurs utilisateurs, l'état de leurs utilisateurs, l'objectif de leur système global, ainsi que l'objectif et le profil des utilisateurs potentiels. Une fois cela fait, ils peuvent simplement se référer au framework XAIR pour adapter et peaufiner leurs systèmes XAI pour les applications AR.

"Alors que l'IA devient de plus en plus puissante, dans un avenir prévisible, nous pouvons nous attendre à ce que l'IA aide à identifier automatiquement au moins un sous-ensemble de ces cinq facteurs", ont déclaré Xu et Yu. "Afin que le cadre puisse être transformé en un outil automatisé ou auto-automatisé pour aider les concepteurs à améliorer leur conception de XAI en RA."

Dans le cadre de leur étude, Xu, Yu et leurs collègues ont résumé les résultats de plus de 100 études enracinées dans différents domaines pour identifier les dimensions importantes à prendre en compte lors du développement de XAI pour les utilisations en RA, en répondant aux questions quand, quoi et comment. Par la suite, les chercheurs ont mené une enquête à grande échelle impliquant plus de 500 utilisateurs et ont organisé un atelier avec 12 experts dans le domaine. Les réponses à l'enquête et les points de vue partagés par les experts au cours de l'atelier ont fourni des informations précieuses qui ont guidé leur développement de XAIR.

« XAIR est le premier cadre pour la conception XAI dans les scénarios AR, comprenant également des directives pour soutenir les concepteurs dans leur processus de réflexion conceptuelle », ont déclaré Xu et Yu. « Les résultats des ateliers de conception avec 10 designers ont indiqué que XAIR pouvait fournir un soutien significatif et perspicace à la créativité des designers. Nous avons en outre mis en œuvre un système AR en temps réel basé sur une conception et l'avons testé avec 12 utilisateurs finaux.

Pour évaluer la valeur de leur framework, les chercheurs l'ont utilisé pour créer un véritable système XAI et l'ont testé en temps réel dans une série de scénarios AR. Ils ont constaté que les utilisateurs percevaient ce système comme à la fois transparent et digne de confiance, suggérant que leur cadre avait efficacement guidé son développement. À l'avenir, le cadre XAIR pourrait être utilisé pour créer une variété de systèmes d'IA pour améliorer les applications AR, qui peuvent expliquer leurs prédictions et sont donc perçues comme plus fiables par les utilisateurs.

"Dans nos prochaines études, nous prévoyons d'explorer l'automatisation du cadre de conception, la création d'une expérience XAI personnalisée en RA au fil du temps, et la possibilité pour les utilisateurs de fournir des commentaires pour améliorer encore le système, etc.", ont ajouté Xu et Yu. . "Le cadre XAIR crée la base et les lignes directrices pour nous d'explorer l'interaction XAI dans les futurs systèmes AR. La récente explosion de l'IA générative est également très excitante, et nous serions intéressés à explorer comment cette tendance peut influencer la future conception XAI dans AR."

© 2023 Réseau Science X