Une étude présente de grands réseaux neuronaux de type cerveau pour l’IA
Une étude présente de grands réseaux neuronaux de type cerveau pour l’IA

Projet sur le cerveau humain : une étude présente de grands réseaux de neurones de type cerveau pour l'IA
Réponses neuronales dynamiques des LTC-SN. (a) un échantillon MNIST est introduit séquentiellement dans le LTC-SNN, pixel par pixel le long de la direction des lignes. (b) à titre d'illustration, nous avons calculé les histogrammes des valeurs dt/t moyennes résultantes après entraînement pour cet échantillon unique (c) les réponses moyennes des neurones en termes de taux de déclenchement regroupées par les valeurs dt/tm, exp(dt/tad p) ( d ) Exemple de dynamique de la constante de temps inverse dt / tm pour quatre neurones sélectionnés au hasard lors de la présentation de la séquence. Crédit: Intelligence des machines naturelles (2023). DOI : 10.1038/s42256-023-00650-4

Dans une nouvelle étude en Intelligence des machines naturellesles chercheurs Bojian Yin et Sander Bohté de l'Institut national néerlandais de recherche pour les mathématiques et l'informatique (CWI), partenaire du HBP, démontrent une avancée significative vers l'intelligence artificielle qui peut être utilisée dans des appareils locaux comme les smartphones et dans des applications de type VR, tout en protégeant la vie privée.

Ils montrent comment des neurones ressemblant à des cerveaux combinés à de nouvelles méthodes d'apprentissage permettent de former à grande échelle des réseaux de neurones à pointes rapides et économes en énergie. Les applications potentielles vont de l'IA portable à la reconnaissance vocale et à la réalité augmentée.

Alors que les réseaux de neurones artificiels modernes sont l'épine dorsale de la révolution actuelle de l'IA, ils ne sont que vaguement inspirés par des réseaux de neurones biologiques réels tels que notre cerveau. Le cerveau est cependant un réseau beaucoup plus vaste, beaucoup plus économe en énergie et peut réagir ultra-rapidement lorsqu'il est déclenché par des événements externes. Les réseaux de neurones à pointes sont des types particuliers de réseaux de neurones qui imitent plus étroitement le fonctionnement des neurones biologiques : les neurones de notre système nerveux communiquent en échangeant des impulsions électriques, et ils ne le font qu'avec parcimonie.

Mis en œuvre dans des puces, appelées matériel neuromorphique, ces réseaux de neurones à pointes promettent de rapprocher les programmes d'IA des utilisateurs, sur leurs propres appareils. Ces solutions locales sont bonnes pour la confidentialité, la robustesse et la réactivité. Les applications vont de la reconnaissance vocale dans les jouets et les appareils, la surveillance des soins de santé et la navigation par drone à la surveillance locale.

Tout comme les réseaux de neurones artificiels standard, les réseaux de neurones à pointes doivent être entraînés pour bien effectuer ces tâches. Cependant, la manière dont ces réseaux communiquent pose de sérieux problèmes. "Les algorithmes nécessaires pour cela nécessitent beaucoup de mémoire informatique, ce qui nous permet de former uniquement de petits modèles de réseau, principalement pour des tâches plus petites. Cela freine jusqu'à présent de nombreuses applications pratiques d'IA", explique Sander Bohté du groupe Machine Learning de CWI. Dans le Human Brain Project, il travaille sur des architectures et des méthodes d'apprentissage pour le traitement cognitif hiérarchique.

Imiter le cerveau d'apprentissage

L'aspect apprentissage de ces algorithmes est un grand défi, et ils ne peuvent pas correspondre à la capacité d'apprentissage de notre cerveau. Le cerveau peut facilement apprendre immédiatement de nouvelles expériences, en modifiant les connexions, voire en en créant de nouvelles. Le cerveau a également besoin de beaucoup moins d'exemples pour apprendre quelque chose et il fonctionne de manière plus économe en énergie. "Nous voulions développer quelque chose de plus proche de la façon dont notre cerveau apprend", explique Bojian Yin.

Yin explique comment cela fonctionne : si vous faites une erreur lors d'une leçon de conduite, vous en apprenez immédiatement. Vous corrigez votre comportement tout de suite et pas une heure plus tard. "Vous apprenez, pour ainsi dire, tout en absorbant les nouvelles informations. Nous voulions imiter cela en donnant à chaque neurone du réseau de neurones un peu d'information qui est constamment mise à jour. De cette façon, le réseau apprend comment l'information change et ne "Je n'ai pas à me souvenir de toutes les informations précédentes. C'est la grande différence avec les réseaux actuels, qui doivent fonctionner avec tous les changements précédents. La façon actuelle d'apprendre nécessite une énorme puissance de calcul et donc beaucoup de mémoire et d'énergie."

6 millions de neurones

Le nouvel algorithme d'apprentissage en ligne permet d'apprendre directement à partir des données, permettant des réseaux de neurones à pointes beaucoup plus grands. En collaboration avec des chercheurs de TU Eindhoven et le partenaire de recherche Holst Center, Bohté et Yin l'ont démontré dans un système conçu pour reconnaître et localiser des objets. Yin montre une vidéo d'une rue animée d'Amsterdam : le réseau de neurones à pointes sous-jacent, SPYv4, a été formé de telle manière qu'il peut distinguer les cyclistes, les piétons et les voitures et indiquer exactement où ils se trouvent.

« Auparavant, nous pouvions former des réseaux de neurones comptant jusqu'à 10 000 neurones ; maintenant, nous pouvons faire la même chose assez facilement pour des réseaux de plus de 6 millions de neurones », explique Bohté. "Avec cela, nous pouvons former des réseaux de neurones à pointes hautement performants comme notre SPYv4."

Et où tout cela mène-t-il ? Avec l'accès à des solutions d'IA aussi puissantes basées sur des réseaux de neurones à pointes, des puces sont en cours de développement qui peuvent exécuter ces programmes d'IA à très faible puissance et apparaîtront finalement dans de nombreux appareils intelligents, comme les appareils auditifs et les lunettes de réalité augmentée ou virtuelle.

Plus d'information: Bojian Yin, Formation en ligne précise des réseaux de neurones à pointes dynamiques grâce à la propagation vers l'avant dans le temps, Intelligence des machines naturelles (2023). DOI : 10.1038/s42256-023-00650-4. www.nature.com/articles/s42256-023-00650-4

Fourni par Human Brain Project

Citation: Une étude présente de grands réseaux de neurones de type cerveau pour l'IA (2023, 8 mai) récupéré le 8 mai 2023 sur

Ce document est soumis au droit d'auteur. En dehors de toute utilisation loyale à des fins d'étude ou de recherche privée, aucune partie ne peut être reproduite sans l'autorisation écrite. Le contenu est fourni seulement pour information.




Source

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Scroll to Top