OpenAIla société à l'origine du célèbre ChatGPT, se pencherait sur la possibilité de fabriquer des puces de traitement en interne dans un contexte de pénurie mondiale de ces composants très demandés.
Des sources proches du dossier ont révélé à Reuters qu'OpenAI explore activement les options, notamment l'évaluation d'une société non divulguée en vue d'une acquisition potentielle afin de renforcer ses ambitions de fabrication de puces IA.
La pénurie de puces, élément fondamental de la technologie de l’IA, a incité OpenAI à envisager diverses stratégies. Ces options incluent la production interne de puces, l’établissement de liens plus étroits avec son principal fournisseur de puces NVIDIA et la diversification de ses fournisseurs de puces.
Plus tôt cette année, Sam Altman, PDG d'OpenAI, a exprimé ses inquiétudes concernant la pénurie de puces, entraînant des retards dans les projets de l'entreprise.
Dans un supprimé depuis article de blog du PDG de Humanloop, Raza Habib, l'expert en IA a écrit sur son expérience avec Altman :
« Un thème commun qui est revenu tout au long de la discussion était qu’OpenAI est actuellement extrêmement limité en GPU, ce qui retarde une grande partie de leurs plans à court terme. La principale plainte des clients concernait la fiabilité et la rapidité de l'API.
Sam a reconnu leur inquiétude et a expliqué que la plupart du problème était dû à une pénurie de GPU. Le contexte 32k plus long ne peut pas encore être déployé auprès d'un plus grand nombre de personnes. OpenAI n'a pas surmonté l'échelle d'attention O(n^2) et donc, même s'il semblait plausible, ils auraient bientôt 100 000 à 1 million de fenêtres contextuelles de jetons (cette année), quelque chose de plus grand nécessiterait une percée en matière de recherche.
L'API de réglage fin est également actuellement gênée par la disponibilité du GPU. Ils n'utilisent pas encore de méthodes de réglage efficaces telles que les adaptateurs ou LoRa et le réglage fin nécessite donc beaucoup de calcul à exécuter et à gérer.
Un meilleur support pour le réglage fin viendra à l’avenir. Ils peuvent même héberger un marché de modèles contribués par la communauté. L’offre de capacité dédiée est limitée par la disponibilité des GPU.
Si OpenAI poursuit son projet de fabriquer ses propres puces, elle rejoindra les rangs des géants de l’industrie comme Google et Amazon qui sont déjà passés à la production de puces en interne. Cette décision pourrait potentiellement atténuer la dépendance d'OpenAI à l'égard de fournisseurs externes, permettant ainsi à l'entreprise de répondre à la demande croissante de puces d'IA spécialisées.
Depuis le lancement public de ChatGPT en novembre de l'année dernière, la demande de puces d'IA spécialisées a grimpé en flèche, provoquant une flambée du cours des actions de NVIDIA alors que les entreprises se précipitent pour se procurer le matériel souhaité.
OpenAI n'a pas pris de décision finale concernant l'acquisition ou la production de puces en interne, et des discussions sont en cours pour remédier à la pénurie pressante de puces et soutenir les initiatives d'IA de l'entreprise.
(Photo par Andrew Neel sur Unsplash)
Vous souhaitez en savoir plus sur l’IA et le Big Data auprès des leaders du secteur ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement complet est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir proposés par TechForge ici.
Source