Une IA « introspective » révèle que la diversité améliore les performances
Une IA « introspective » révèle que la diversité améliore les performances

Une IA « introspective » révèle que la diversité améliore les performances
Progression d'un réseau neuronal artificiel conventionnel à un réseau neuronal diversifié puis à un réseau neuronal diversifié appris. Les épaisseurs de ligne représentent les poids Wles épaisseurs des cercles représentent des biais b, et les croquis à l'intérieur des cercles représentent les fonctions d'activation σ. Crédit: Rapports scientifiques (2023). DOI : 10.1038/s41598-023-40766-6

Selon une nouvelle étude, une intelligence artificielle capable de regarder à l’intérieur et d’affiner son propre réseau neuronal est plus performante lorsqu’elle choisit la diversité plutôt que le manque de diversité. Les divers réseaux de neurones qui en ont résulté se sont révélés particulièrement efficaces pour résoudre des tâches complexes.

"Nous avons créé un système de test avec une intelligence non humaine, une intelligence artificielle (IA), pour voir si l'IA choisirait la diversité plutôt que le manque de diversité et si son choix améliorerait les performances de l'IA", explique William Ditto, professeur de physique à la North Carolina State University, directeur du laboratoire d'intelligence artificielle non linéaire (NAIL) de NC State et co-auteur correspondant de l'ouvrage. "La clé était de donner à l'IA la capacité de regarder à l'intérieur et d'apprendre comment elle apprend."

Les réseaux de neurones sont un type avancé d’IA vaguement basé sur le fonctionnement de notre cerveau. Nos neurones naturels échangent des impulsions électriques en fonction de la force de leurs connexions. Les réseaux de neurones artificiels créent des connexions tout aussi fortes en ajustant les pondérations numériques et les biais pendant les séances d’entraînement.

Par exemple, un réseau neuronal peut être entraîné à identifier des photos de chiens en passant au crible un grand nombre de photos, en devinant si la photo est celle d'un chien, en voyant à quelle distance elle se trouve, puis en ajustant ses poids et ses biais jusqu'à ce qu'ils soient détectés. sont plus proches de la réalité.

L’IA conventionnelle utilise des réseaux de neurones pour résoudre des problèmes, mais ces réseaux sont généralement composés d’un grand nombre de neurones artificiels identiques. Le nombre et la force des connexions entre ces neurones identiques peuvent changer au fur et à mesure de l’apprentissage, mais une fois le réseau optimisé, ces neurones statiques constituent le réseau.

L'équipe de Ditto, quant à elle, a donné à son IA la possibilité de choisir le nombre, la forme et la force de connexion entre les neurones de son réseau neuronal, créant ainsi des sous-réseaux de différents types de neurones et forces de connexion au sein du réseau au fur et à mesure de son apprentissage.

"Nos vrais cerveaux possèdent plus d'un type de neurones", explique Ditto. "Nous avons donc donné à notre IA la capacité de regarder à l'intérieur et de décider si elle devait modifier la composition de son réseau neuronal. Essentiellement, nous lui avons donné le bouton de contrôle de son propre cerveau. Pour qu'elle puisse résoudre le problème, regardez le résultat, et changer le type et la combinaison de neurones artificiels jusqu'à ce qu'il trouve celui qui est le plus avantageux. C'est du méta-apprentissage pour l'IA.

"Notre IA pourrait également choisir entre des neurones divers ou homogènes", explique Ditto. "Et nous avons constaté que dans chaque cas, l'IA choisissait la diversité comme moyen de renforcer ses performances."

L'équipe a testé la précision de l'IA en lui demandant d'effectuer un exercice de classification numérique standard et a constaté que sa précision augmentait à mesure que le nombre de neurones et la diversité neuronale augmentaient. Une IA standard et homogène pourrait identifier les chiffres avec une précision de 57 %, tandis qu’une IA diversifiée de méta-apprentissage était capable d’atteindre une précision de 70 %.

Selon Ditto, l'IA basée sur la diversité est jusqu'à 10 fois plus précise que l'IA conventionnelle pour résoudre des problèmes plus complexes, tels que la prédiction du mouvement d'un pendule ou du mouvement des galaxies.

"Nous avons montré que si vous donnez à une IA la capacité de regarder à l'intérieur et d'apprendre comment elle apprend, elle modifiera sa structure interne - la structure de ses neurones artificiels - pour embrasser la diversité et améliorer sa capacité à apprendre et à résoudre les problèmes de manière plus efficace et plus précise. ", dit Idem. "En effet, nous avons également observé qu'à mesure que les problèmes deviennent plus complexes et chaotiques, les performances s'améliorent encore plus considérablement par rapport à une IA qui n'embrasse pas la diversité."

L'ouvrage est publié dans la revue Rapports scientifiques.

Plus d'information: Choudhary, A. et al. La diversité neuronale peut améliorer l’apprentissage automatique pour la physique et au-delà. Rapports scientifiques (2023). DOI : 10.1038/s41598-023-40766-6 www.nature.com/articles/s41598-023-40766-6

Fourni par l'Université d'État de Caroline du Nord

Citation: Une IA « introspective » découvre que la diversité améliore les performances (31 août 2023) récupéré le 2 septembre 2023 sur

Ce document est soumis au droit d'auteur. En dehors de toute utilisation équitable à des fins d'étude ou de recherche privée, aucune partie ne peut être reproduite sans autorisation écrite. Le contenu est fourni seulement pour information.




Source

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Scroll to Top