Meta a introduit Lama 2une famille open source de modèles de langage d'IA qui est fournie avec une licence permettant l'intégration dans des produits commerciaux.
Les modèles Llama 2 varient en taille de 7 à 70 milliards de paramètres, ce qui en fait une force formidable dans le paysage de l'IA.
Selon les affirmations de Meta, ces modèles "surperforment les modèles de chat open source sur la plupart des benchmarks que nous avons testés".
La sortie de Llama 2 marque un tournant sur le marché du LLM (large language model) et a déjà attiré l'attention des experts et des passionnés du secteur.
Les nouveaux modèles de langage proposés par Llama 2 se déclinent en deux variantes – pré-entraînées et affinées :
- Les modèles pré-entraînés sont formés sur un énorme deux billions de jetons et ont une fenêtre contextuelle de 4 096 jetons, leur permettant de traiter de grandes quantités de contenu à la fois.
- Les modèles affinés, conçus pour les applications de chat comme ChatGPT, ont été formés sur "plus d'un million d'annotations humaines", améliorant encore leurs capacités de traitement du langage.
Bien que les performances de Llama 2 ne puissent pas encore rivaliser avec le GPT-4 d'OpenAI, elles sont remarquablement prometteuses pour un modèle open source.
Le voyage Llama 2 a commencé avec son prédécesseur, LLaMA, que Meta a publié en open source avec une licence non commerciale en février.
Cependant, quelqu'un a divulgué les poids de LLaMA sur des sites torrent, ce qui a entraîné une augmentation de son utilisation au sein de la communauté de l'IA. Cela a jeté les bases d'une scène de développement underground LLM à croissance rapide.
Les modèles d'IA open source comme Llama 2 présentent leur lot d'avantages et de préoccupations.
Du côté positif, ils encouragent la transparence en termes de données de formation, favorisent la concurrence économique, promeuvent la liberté d'expression et démocratisent l'accès à l'IA. Cependant, les critiques soulignent les risques potentiels, tels que l'utilisation abusive de la biologie synthétique, la génération de spam ou la désinformation.
Pour répondre à ces préoccupations, Meta a publié une déclaration à l'appui de son approche d'innovation ouverte, soulignant que l'innovation responsable et ouverte encourage la transparence et la confiance dans les technologies d'IA.
Malgré les avantages des modèles open source, certains critiques restent sceptiques, notamment en ce qui concerne le manque de transparence des données de formation utilisées pour les LLM. Alors que Meta prétend avoir fait des efforts pour supprimer les données contenant des informations personnelles, les sources spécifiques des données de formation restent non divulguées, ce qui soulève des inquiétudes quant à la confidentialité et aux considérations éthiques.
Avec la combinaison du développement open source et des licences commerciales, Llama 2 promet d'apporter des avancées et des opportunités passionnantes à la communauté de l'IA tout en relevant simultanément les défis de la confidentialité des données et de l'utilisation responsable.
(Photo par Joakim Honkasalo sur Unsplash)
Voir également: Anthropic lance son rival ChatGPT Claude 2
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source