Malgré leur taille et leur puissance énormes, les systèmes d'intelligence artificielle d'aujourd'hui échouent systématiquement à faire la distinction entre l'hallucination et la réalité. Les systèmes de conduite autonome peuvent ne pas percevoir les piétons et les véhicules d'urgence juste devant eux, avec des conséquences fatales. Les systèmes d'IA conversationnelle inventent des faits en toute confiance et, après une formation par apprentissage par renforcement, échouent souvent à donner des estimations précises de leur propre incertitude.

En travaillant ensemble, des chercheurs du MIT et de l'Université de Californie à Berkeley ont développé une nouvelle méthode pour créer des algorithmes d'inférence d'IA sophistiqués qui génèrent simultanément des collections d'explications probables pour les données et estiment avec précision la qualité de ces explications.

La nouvelle méthode est basée sur une approche mathématique appelée Monte Carlo séquentiel (SMC). Les algorithmes SMC sont un ensemble établi d'algorithmes qui ont été largement utilisés pour l'IA calibrée sur l'incertitude, en proposant des explications probables des données et en suivant la probabilité ou l'improbabilité des explications proposées chaque fois que plus d'informations sont fournies. Mais SMC est trop simpliste pour des tâches complexes.

Le principal problème est que l'une des étapes centrales de l'algorithme - l'étape consistant à proposer des hypothèses pour des explications probables (avant l'autre étape consistant à suivre la probabilité que différentes hypothèses semblent les unes par rapport aux autres) - devait être très simple. Dans les domaines d'application compliqués, l'examen des données et l'élaboration d'hypothèses plausibles sur ce qui se passe peuvent être un problème difficile en soi.

Dans la conduite autonome, par exemple, cela nécessite de regarder les données vidéo des caméras d'une voiture autonome, d'identifier les voitures et les piétons sur la route et de deviner les trajectoires de mouvement probables des piétons actuellement cachés. Faire des suppositions plausibles à partir de données brutes peut nécessiter des algorithmes sophistiqués que le SMC ordinaire ne peut pas prendre en charge.

C'est là qu'intervient la nouvelle méthode, SMC avec propositions de programmes probabilistes (SMCP3). SMCP3 permet d'utiliser des moyens plus intelligents pour deviner les explications probables des données, de mettre à jour ces explications proposées à la lumière de nouvelles informations et d'estimer la qualité des ces explications qui ont été proposées de manière sophistiquée. SMCP3 le fait en permettant d'utiliser n'importe quel programme probabiliste - tout programme informatique qui est également autorisé à faire des choix aléatoires - comme stratégie pour proposer (c'est-à-dire, deviner intelligemment) des explications de données.

Les versions précédentes de SMC ne permettaient que l'utilisation de stratégies très simples, si simples que l'on pouvait calculer la probabilité exacte de toute supposition. Cette restriction a rendu difficile l'utilisation de procédures de devinettes à plusieurs étapes.

L'article SMCP3 des chercheurs montre qu'en utilisant des procédures de proposition plus sophistiquées, SMCP3 peut améliorer la précision des systèmes d'IA pour le suivi des objets 3D et l'analyse des données, et également améliorer la précision des propres estimations des algorithmes sur la probabilité des données. Des recherches antérieures du MIT et d'autres ont montré que ces estimations peuvent être utilisées pour déduire la précision avec laquelle un algorithme d'inférence explique les données, par rapport à un raisonneur bayésien idéalisé.

George Matheos, co-premier auteur de l'article (et un entrant du MIT en génie électrique et en informatique [EECS] doctorat étudiant), dit qu'il est très enthousiasmé par le potentiel de SMCP3 pour rendre pratique l'utilisation d'algorithmes bien compris et calibrés pour l'incertitude dans des contextes de problèmes complexes où les anciennes versions de SMC ne fonctionnaient pas.

"Aujourd'hui, nous avons beaucoup de nouveaux algorithmes, dont beaucoup sont basés sur des réseaux de neurones profonds, qui peuvent proposer ce qui pourrait se passer dans le monde, à la lumière des données, dans toutes sortes de domaines problématiques. Mais souvent, ces algorithmes ne sont pas vraiment de l'incertitude. - calibré. Ils ne donnent qu'une idée de ce qui pourrait se passer dans le monde, et il n'est pas clair si c'est la seule explication plausible ou s'il y en a d'autres, ou même si c'est une bonne explication en premier lieu !"

"Mais avec SMCP3, je pense qu'il sera possible d'utiliser beaucoup plus de ces algorithmes intelligents mais difficiles à faire confiance pour créer des algorithmes calibrés pour l'incertitude. Comme nous utilisons des systèmes d'"intelligence artificielle" pour prendre des décisions dans de plus en plus de domaines de la vie, disposer de systèmes fiables, conscients de leur incertitude, sera crucial pour la fiabilité et la sécurité."

Vikash Mansinghka, auteur principal de l'article, ajoute : "Les premiers ordinateurs électroniques ont été construits pour exécuter les méthodes de Monte Carlo, et ce sont certaines des techniques les plus largement utilisées en informatique et en intelligence artificielle. Mais depuis le début, les méthodes de Monte Carlo ont était difficile à concevoir et à mettre en œuvre : les calculs devaient être dérivés à la main, et il y avait beaucoup de restrictions mathématiques subtiles dont les utilisateurs devaient être conscients. SMCP3 automatise simultanément les calculs durs et élargit l'espace des conceptions. »

"Nous l'avons déjà utilisé pour penser à de nouveaux algorithmes d'IA que nous n'aurions pas pu concevoir auparavant."

Cette histoire est republiée avec l'aimable autorisation de MIT News (web.mit.edu/newsoffice/), un site populaire qui couvre l'actualité de la recherche, de l'innovation et de l'enseignement au MIT.