La division IA de Meta de Mark Zuckerberg a récemment dévoilé son Chatbot Lama 2. Microsoft a été nommé Meta's partenaire privilégié sur Llama 2qui sera disponible via le système d'exploitation Windows.

L'approche de Meta avec Llama 2 contraste avec celle de la société OpenAI, qui a créé le chatbot IA ChatGPT. C'est parce que Meta a rendu son produit open source, ce qui signifie que le code original est librement disponible, ce qui permet de le rechercher et de le modifier.

Cette stratégie a suscité une vaste vague de discussions. Favorisera-t-il un examen public et une réglementation plus poussés des grands modèles de langage (LLM) - la technologie qui sous-tend les chatbots IA tels que Llama 2 et ChatGPT ? Pourrait-il, par inadvertance, permettre aux criminels d'utiliser la technologie pour les aider mener des attaques de phishing ou développer des logiciels malveillants? Et cette décision pourrait-elle aider Meta à prendre un avantage sur OpenAI et Google dans ce domaine en évolution rapide ?

Quoi qu'il arrive, cette décision stratégique semble devoir remodeler le paysage actuel de l'IA générative. En février 2023, Meta a publié son première version du LLM, appelée Llama, mais l'a mis à disposition pour un usage académique uniquement. Sa version mise à jour, Llama 2, offre des performances améliorées et est plus adaptée à une utilisation professionnelle.

Comme les autres chatbots IA, Llama 2 a dû être formé à l'aide de données en ligne. L'exposition à cette vaste ressource d'informations l'aide à améliorer ce qu'elle fait, en fournissant aux utilisateurs des réponses utiles à leurs questions.

Une première version de Llama 2 a été créée via "mise au point supervisée", une technique qui utilise des données de questions-réponses de haute qualité pour la calibrer pour une utilisation par le public. Elle a été affinée avec apprentissage par renforcement par rétroaction humaine qui, comme son nom l'indique, intègre les évaluations des performances de l'IA par les utilisateurs pour les aligner sur les préférences humaines.

Prestations garanties

L'adoption par Meta de l'éthique open source avec Llama 2 lui permet de capitaliser sur ce qui semble être une approche qui a fonctionné pour l'entreprise dans le passé. Les ingénieurs de Meta sont connus pour leur développement de produits pour aider les développeurs tels que Réagir et TorchePy. Les deux sont open source et sont devenus la norme de l'industrie. Grâce à eux, Meta a créé un précédent en matière d'innovation par la collaboration.

La sortie de Llama 2 tient la promesse d'une IA générative plus sûre. Grâce à une sagesse partagée et à une exploration collective, les utilisateurs peuvent identifier les informations erronées et toutes les vulnérabilités qui pourraient être exploitées par des criminels. Des applications inattendues ont déjà vu le jour, comme une version de Llama 2 qui peut être installé sur les iPhones et a été créé par des utilisateurs, soulignant le potentiel de créativité au sein de cette communauté.

Mais il y a des limites à la mesure dans laquelle Meta permettra aux utilisateurs de Llama 2 de commercialiser son système d'IA. Si une partie obtient plus de 700 millions d'utilisateurs actifs au cours du mois civil précédent pour un produit basé sur Llama 2, il devra demander une licence à Meta. Pour Meta, cela ouvre la possibilité d'un partage des bénéfices sur les produits à succès basés sur Llama 2.

La stratégie de Meta contraste fortement avec l'approche plus prudente de son principal concurrent, OpenAI. Même si certains remettent en question la capacité de Meta à rivaliser dans ce domaine et commercialiser des produits comme OpenAI l'a fait avec ChatGPT, la décision de Meta d'inviter des développeurs du monde entier dans le giron suggère une vision plus large. C'est une décision qui positionne l'entreprise de Zuckerberg non seulement comme un acteur mais aussi comme un facilitateur, exploitant des talents mondiaux pour contribuer à l'écosystème croissant de Llama 2.

Cette stratégie pourrait également constituer une protection astucieuse contre la concurrence potentielle d'autres géants de la technologie tels que Google. Avec une large population d'utilisateurs explorant le potentiel de Llama 2, toute avancée réussie peut être rapidement intégrée aux autres produits de Meta. Seul le temps révélera le plein impact de cette décision, mais les effets immédiats sur l'industrie résonnent déjà de loin.

Avantages et inconvénients pour les utilisateurs

L'aspect d'expérimentation publique de la technologie open source permet un examen plus approfondi, offrant l'opportunité à une communauté d'utilisateurs de évaluer les forces et les faiblesses de Llama 2, y compris sa vulnérabilité aux attaques. L'œil vigilant du public peut révéler des failles dans les LLM, incitant le développement de défenses contre eux.

En revanche, des inquiétudes ont émergé selon lesquelles cela s'apparente à "tendre un couteau à des criminels", car cela pourrait également permettre à des utilisateurs malveillants d'exploiter la technologie. Par exemple, sa puissance pourrait aider les fraudeurs à construire un système de dialogue qui génère des conversations automatisées plausibles pour les escroqueries téléphoniques. Ce potentiel d'abus a conduit certains à réclamer réglementation de la technologie.

Mais exactement quelles règles sont conçues, qui a le pouvoir de superviser ce processuset exactement ce qui nécessite plus ou moins d'examen, tous nécessitent une planification minutieuse pour s'assurer que la réglementation ne se contente pas de soutenir les monopoles des grandes entreprises technologiques.

Dans la saga évolutive du développement de l'IA, le débat sur l'open source rappelle que les progrès technologiques sont rarement simples ou unidimensionnels. Les implications de la décision de Meta sont susceptibles de se répercuter sur le monde de la technologie dans les années à venir. Bien que Llama 2 ne puisse pas encore rivaliser avec les capacités de ChatGPT, il ouvre la porte au développement d'une multitude de produits innovants.

Google sera également sous surveillance, alors que les spéculations grandissent sur comment il peut répondre. À une époque où la culture open source prospère, il ne serait pas surprenant de voir Google emboîter le pas avec ses propres versions.

Le terme "la technologie pour le bien" est devenu un mantra courant pour décrire les entreprises technologiques utilisant certaines de leurs ressources pour avoir un impact positif sur nos vies. En fin de compte, cependant, cet objectif reste une responsabilité partagée, et pas seulement quelque chose dans lequel une poignée d'entreprises devraient s'engager.

C'est aussi un objectif qui exige une collaboration et un effort concerté entre les universités, l'industrie et au-delà. Alors que les technologies LLM continuent d'évoluer, les enjeux sont importants et la voie à suivre est pleine d'opportunités et de défis.

Cet article est republié de La conversation sous licence Creative Commons. Lis le article original.