Les utilisateurs de Microsoft Azure peuvent désormais exploiter les dernières avancées de la technologie de calcul accéléré de NVIDIA, révolutionnant la formation et le déploiement de leurs applications IA génératives.
L'intégration d'Azure ND H100 v5 machines virtuelles (VM) avec NVIDIA H100 Les GPU Tensor Core et la mise en réseau Quantum-2 InfiniBand promettent une mise à l'échelle transparente de l'IA générative et des applications informatiques hautes performances, le tout en un clic.
Cette collaboration de pointe intervient à un moment charnière où les développeurs et les chercheurs explorent activement le potentiel des grands modèles de langage (LLM) et de l'informatique accélérée pour débloquer de nouveaux cas d'utilisation pour les consommateurs et les entreprises.
Le GPU H100 de NVIDIA atteint des performances de classe superinformatique grâce à une gamme d'innovations architecturales. Ceux-ci incluent les cœurs Tensor de quatrième génération, un nouveau moteur de transformateur pour une accélération LLM améliorée et la technologie NVLink qui propulse la communication inter-GPU à des vitesses sans précédent de 900 Go/sec.
L'intégration du NVIDIA Quantum-2 CX7 InfiniBand - avec une bande passante inter-nœuds de 3 200 Gbit/s - garantit des performances sans faille sur tous les GPU, même à grande échelle. Cette capacité positionne la technologie au même niveau que les capacités de calcul des superordinateurs les plus avancés au monde.
Les machines virtuelles ND H100 v5 nouvellement introduites présentent un immense potentiel pour la formation et la déduction de LLM et de modèles de vision par ordinateur de plus en plus complexes. Ces réseaux de neurones alimentent les applications d'IA génératives les plus complexes et les plus exigeantes en calcul, allant de la réponse aux questions et de la génération de code à l'audio, la vidéo, la synthèse d'images et la reconnaissance vocale.
Une caractéristique remarquable des machines virtuelles ND H100 v5 est leur capacité à atteindre une accélération jusqu'à 2x dans l'inférence LLM, notamment démontrée par le modèle BLOOM 175B par rapport aux instances de la génération précédente. Cette amélioration des performances souligne leur capacité à optimiser davantage les applications d'IA, alimentant l'innovation dans tous les secteurs.
La synergie entre les GPU NVIDIA H100 Tensor Core et Microsoft Azure offre aux entreprises des capacités de formation et d'inférence IA inégalées. Ce partenariat rationalise également le développement et le déploiement de l'IA de production, renforcé par l'intégration de la suite logicielle NVIDIA AI Enterprise et d'Azure Machine Learning pour MLOps.
Les efforts combinés ont conduit à des performances d'IA révolutionnaires, validées par les benchmarks MLPerf standard de l'industrie :
L'intégration de NVIDIA Omnivers La plateforme avec Azure étend encore la portée de cette collaboration, en fournissant aux utilisateurs tout ce dont ils ont besoin pour la numérisation industrielle et le supercalcul de l'IA.
(Crédit d'image : Uwe Ho depuis Pixabay)
Voir également: Gcore s'associe à UbiOps et Graphcore pour renforcer les équipes d'IA
Vous voulez en savoir plus sur l'IA et le Big Data auprès des leaders de l'industrie ? Vérifier Salon de l'IA et du Big Data se déroulant à Amsterdam, en Californie et à Londres. L'événement est co-localisé avec Semaine de la transformation numérique.
Découvrez d'autres événements et webinaires technologiques d'entreprise à venir propulsés par TechForge ici.
Source