Nvidia annonce Nvidia Project Digits, un supercalculateur d'IA qui offre aux chercheurs de l'IA un accès à la plate-forme Grace Blackwell

Le 6 janvier, Nvidia dévoile Nvidia Project Digits, un supercalculateur d'IA personnel qui fournit aux chercheurs de l'IA, aux scientifiques des données et aux étudiants du monde entier un accès à la puissance de la plate-forme Nvidia Grace Blackwell chez CES.

Project Digits est alimenté par le nouveau Nvidia GB10Grace Blackwell Superchip, offrant des performances informatiques de l'IA de Petaflops pour le prototypage, le réglage fin et l'exécution de modèles d'IA à grande échelle.

Le projet Digits permet aux utilisateurs de développer et d'exécuter l'inférence sur les modèles à l'aide de leurs propres systèmes de bureau, puis de déployer de manière transparente les modèles pour accélérer l'infrastructure de cloud ou de centre de données.

"L'IA deviendra courant dans toutes les applications dans chaque industrie. Le projet Digits amène Grace Blackwell Superchip à des millions de développeurs", a déclaré Jensen Huang, fondateur / PDG de NVIDIA. Nous pourrons nous engager avec l'IA et façonner l'âge de l'IA. "

GB10Superchip offre des performances d'IA éconergétiques pour Petaflops
Le GB10Superchip est un système sur puce (SOC) basé sur l'architecture Nvidia Grace Blackwell, offrant jusqu'à 1 Petaflops de performance AI avec une précision FP4.

Le GB10 est propulsé par les GPU Nvidia Blackwell avec les noyaux CUDA de dernière génération et les noyaux de tenseur de 5e génération, et est économe en puissance avec 20 unités avec une architecture ARM via des interconnexions de puce NVLink-C2C. CPU y compris le noyau. MediaTek, un leader du marché dans la conception SOC basée sur les bras, a aidé à concevoir le GB10, contribuant à la meilleure efficacité électrique, performance et connectivité.

Avec le GB10SuperChip, Project Digits utilise uniquement des prises de courant standard pour des performances puissantes. Chaque chiffre de projet est livré avec 128 Go de mémoire cohérente intégrée et jusqu'à 4 To de stockage NVME. Le supercalculateur permet aux développeurs d'exécuter des modèles de langage à grande échelle avec jusqu'à 200 milliards de paramètres, accélérant l'innovation d'IA. De plus, NVIDIA ConnectX Networking peut être utilisé pour relier deux chiffres de projections AI pour exécuter des modèles avec jusqu'à 405 milliards de paramètres.

・ Grace Blackwell AI Le supercalcuting est à portée de main
L'architecture Grace Blackwell permet aux entreprises et aux chercheurs de prototype, de régler les modèles de mélodie et de test sur les systèmes de chiffres de projet locaux exécutant NVIDIA DGX OS basé sur Linux, puis utilisent le cloud NVIDIA DGX, les instances de cloud accélérées ou les données. infrastructure centrale.

Cela permet aux développeurs de prototyper l'IA avec des chiffres de projet et de les évoluer vers l'infrastructure de cloud ou de centre de données en utilisant la même architecture Grace Blackwell et la plate-forme logicielle NVIDIA AI Enterprise.

Les utilisateurs des chiffres du projet ont accès à une large gamme de logiciels NVIDIA AI pour les expériences et le prototypage, y compris les kits de développement de logiciels, les outils d'orchestration, les cadres et les modèles disponibles dans le catalogue NVIDIA NGC et le portail de développement NVIDIA. Les développeurs peuvent affiner les modèles avec le cadre NVIDIA NEMO, accélérer la science des données avec la bibliothèque Nvidia Rapids et exécuter des cadres populaires tels que les ordinateurs portables Pytorch, Python et Jupyter.

Les applications d'IA basées sur des agents de construction peuvent également être mises à la disposition des microservices Nvidia Blueprint et Nvidia NIM, qui peuvent être utilisés pour la recherche, le développement et les tests via le programme de développeurs NVIDIA. Une fois que vous êtes prêt à déplacer vos applications d'IA d'un environnement expérimental vers un environnement de production, vous pouvez profiter de la sécurité, du support et des versions de produits de qualité d'entreprise du logiciel NVIDIA AI avec une licence d'entreprise NVIDIA AI.