Build Naidia

Qu’est-ce que NVIDIA Build ?

NVIDIA Build est une plateforme fournie par NVIDIA aux développeurs d’IA pour la découverte de modèles, les essais en ligne et le déploiement. Elle regroupe dans un seul répertoire les modèles ouverts de la communauté, les modèles NVIDIA, l’interface de déduction NIM, Skills, Blueprints ainsi que les ressources de déploiement.

L’utilisateur peut d’abord utiliser des interfaces de développement gratuites, accélérées par DGX Cloud, pour créer un prototype, puis choisir un endpoint de partenaire ou déployer le NIM téléchargeable sur sa propre infrastructure GPU. Il ne s’agit pas d’un site de chat destiné aux utilisateurs ordinaires, mais plutôt d’une plateforme de développement et de déploiement.

Quelle est la relation entre NVIDIA Build et NIM ?

NVIDIA Build est un portail pour les modèles et les ressources de développement, tandis que NVIDIA NIM sont des microservices optimisés qui offrent des capacités de raisonnement via des interfaces standardisées. La page du modèle affiche généralement en même temps une interface de prototype en ligne, la carte du modèle, des références API et les options de déploiement disponibles.

Fonctionnalités clés

1. Découverte de modèles et essai en ligne

Les développeurs peuvent rechercher des modèles par fabricant, tâche et étiquette, et tester les prompts et paramètres sur la page du modèle. Le catalogue indique également si le modèle propose des endpoints gratuits, s’il est téléchargeable, ainsi que les méthodes d’intégration supportées.

2. Interface de développement NIM gratuite

Certains modèles offrent des endpoints API Serverless gratuits pour le développement, que les utilisateurs peuvent appeler après s’être connectés et avoir généré une clé API NVIDIA. Ces interfaces gratuites sont destinées aux prototypes et à l’évaluation ; on ne doit pas supposer qu’elles disposent de SLA de production, d’une stabilité à long terme ou d’un quota illimité.

3. Compatibilité avec des clients de style OpenAI

De nombreux exemples de modèles de texte utilisent un format de client et de messages de style OpenAI ; il suffit de remplacer les endpoints de base, le nom du modèle et la clé NVIDIA. La compatibilité vise principalement à réduire les coûts de migration, ce qui ne signifie pas que chaque paramètre et champ de réponse soient identiques.

4. Il est possible de télécharger le conteneur NIM

Pour les modèles marqués comme Downloadable, les entreprises et les développeurs peuvent exécuter le conteneur NIM sur des data centers locaux, dans un cloud privé ou sur des GPU en cloud public, conformément à la licence. Avant le déploiement, il est nécessaire de vérifier la mémoire vidéo GPU, les pilotes, l’environnement du conteneur, la licence du modèle et les droits NGC.

5. Compétences et plans

La plateforme offre des compétences réutilisables, des applications de référence et des Blueprints pour construire des workflows RAG, des agents, de l’analyse vidéo, des avatars numériques et d’autres solutions d’IA générative. Les exemples aident à créer des prototypes, mais un environnement de production nécessite encore une conception en matière de sécurité, de surveillance et d’éscalabilité.

6. Carte de modèle et documentation API

La page du modèle fournit généralement des informations sur la longueur du contexte, les entrées et sorties, la langue, le matériel, la licence, ainsi que des explications concernant les données et les risques. Avant le développement, il convient de lire à la fois la fiche du modèle et la référence API correspondante, plutôt que de se contenter de copier le code d’exemple.

Aperçu des compétences principales

• Découvrez les modèles linguistiques, visuels, d’images, vocaux et scientifiques fournis par NVIDIA et la communauté.
• Testez les prompts, les paramètres et la sortie en flux dans l’interface Playground.
• Générer une clé API et appeler les points d’entrée de développement gratuits.
• Accédez rapidement aux modèles à l’aide de Python, de la ligne de commande ou d’un client compatible.
• Voir la carte du modèle, les étiquettes de tâche, les licences et les exigences en matière d’équipement pour chaque modèle.
• Téléchargez des conteneurs NIM conformes et déployez-les sur votre propre infrastructure GPU.
• Sélectionner d’autres itinéraires de déploiement cloud via l’endpoint du partenaire.
• Créer des applications RAG, d’agents et sectorielles à l’aide de Blueprint et d’exemples open source.
• Obtenir une capacité continue de correction des vulnérabilités, de support et de déploiement dans un environnement d’entreprise.

Modèles et types de tâches

• Génération de texte : chat, raisonnement, rédaction, code et appel d’outils.
• Compréhension multimodale : analyse simultanée d’images, de texte, de documents ou de contenu vidéo.
• Insertion et réordonnancement : fournir des capacités de vectorisation et de tri pour les systèmes de recherche, RAG et de recommandation.
• Images et vidéos : création, montage ou compréhension de matériel visuel.
• Voix : reconnaissance vocale, conversion texte en voix et traitement audio.
• Biologie numérique : modèles liés à la découverte de protéines, de molécules et de médicaments.
• IA physique : robots, conduite autonome, simulation et modèles du monde.
• Agent : planification, utilisation d’outils, recherche et flux de travail à plusieurs étapes.

À qui s’adresse-t-il

• Développeurs d’applications qui ont besoin de comparer plusieurs API de modèles ouverts.
• Équipe en train de développer des produits de messagerie, RAG, de code et d’agents intelligents.
• Les entreprises qui souhaitent passer d’un prototype hébergé à une implémentation avec leur propre GPU.
• Il est nécessaire d’optimiser les conteneurs de raisonnement, la concurrence et les équipes de plateformes d’IA avec support entreprise.
• Spécialistes de la vision, de la biologie numérique et des modèles d’IA physique.
• Architectes souhaitant valider rapidement l’architecture des solutions d’IA sectorielles à l’aide de Blueprint.
• Les organisations qui doivent choisir entre un déploiement local, dans un data center ou dans un environnement multi-cloud.

Comment appeler l’API du premier modèle

1. Créer et valider un compte développeur NVIDIA.
2. Sélectionnez le modèle cible marqué par l’indicateur Free Endpoint dans le répertoire des modèles.
3. Lisez la carte du modèle, la référence API, les licences et les restrictions d’entrée/sortie.
4. Générez une clé API sur la page du modèle, puis enregistrez-la immédiatement en un endroit sécurisé.
5. Copiez les exemples officiels de Python ou de ligne de commande pour configurer les variables de clé dans votre environnement local.
6. Lancer un petit nombre de requêtes à l’aide de tests non sensibles, et enregistrer les réponses ainsi que la consommation de quota.
7. Ajouter des délais d’attente, des tentatives de réessai, une limitation de vitesse, des journaux et un traitement des erreurs.
8. Réselectez le chemin de déploiement disposant de la capacité, du soutien et des licences avant de mettre en production.

Comment migrer d’un endpoint gratuit vers un NIM auto-hébergé

1. Vérifier que le modèle cible est marqué comme téléchargeable, et contrôler le NIM ainsi que la licence du modèle.
2. Vérifiez les GPU, la mémoire vidéo, les pilotes et l’environnement de exécution de conteneurs pris en charge selon la documentation du modèle.
3. Obtenir les droits d’accès NGC nécessaires ainsi que la clé du registre de conteneurs.
4. Télécharger l’image dans un environnement de test isolé et configurer le cache du modèle.
5. Après le démarrage de NIM, utilisez les vérifications de santé et des requêtes à petite échelle pour valider l’interface.
6. Passer l’endpoint d’application au service local, et conserver le nom du modèle ainsi que les paramètres.
7. Effectuer des tests de débit, de latence, de concurrence, de mémoire vidéo et de récupération en cas de panne.
8. Mises à jour continues des conteneurs, correction des vulnérabilités, surveillance et planification de la capacité une fois en ligne.

Informations sur la limite gratuite et les prix

NVIDIA Build indique actuellement que certains NIM sont des points de développement gratuits. Selon le dépôt d’exemples officiel de NVIDIA, un nouveau compte peut obtenir jusqu’à 5000 points gratuits, et un point est consommé par demande NIM à titre d’exemple ; les quotas réels, la disponibilité des modèles et le mode de facturation dépendent de la console de compte.

NVIDIA Build ne dispose pas de tarif unique par token qui couvre tous les modèles et méthodes de production. Les modèles, les hébergeurs, les GPU, le débit, le niveau de support et les contrats d’entreprise influencent tous le coût total ; il ne faut donc pas considérer les points gratuits comme un budget de production à long terme.

Comparaison des méthodes de déploiement

Clés API et sécurité

• La clé API n’est stockée que dans des variables d’environnement ou un service de gestion de clés.
• Ne mettez pas la clé dans l’interface frontale du site web, l’application mobile ou un dépôt public.
• Les environnements de développement, de test et de production utilisent des clés et des droits d’accès différents.
• Ajouter à l’interface externe une authentification des utilisateurs, des limites de quota et une détection de l’abus.
• Masquez dans le journal les informations sensibles des prompts, les clés et le contenu complet de la réponse.
• Lorsque les données personnelles ou d’entreprise sont utilisées comme entrée dans le modèle, il convient de vérifier au préalable les conditions de traitement des données.
• Dès la découverte d’une fuite, annuler immédiatement la clé et vérifier les appels anormaux.

Licence du modèle et statut open source

NVIDIA Build comprend à la fois des modèles NVIDIA et des modèles provenant de la communauté tierce, et les licences utilisées pour chacun de ces modèles diffèrent. Les éléments « Downloadable » ou « Open Model » affichés sur la page ne peuvent pas être interprétés directement comme signifiant un open source sans restriction ; il convient de se référer à la licence spécifique à chaque modèle.

• Vérifier séparément les poids du modèle, le code, les données et les licences du conteneur NIM.
• Vérifier si l’utilisation commerciale, la redistribution, le paramétrage et les modèles dérivés sont autorisés.
• Le nom du modèle tiers et la licence sont déterminés par le fournisseur initial.
• Les conditions d’essai de l’API et la licence du modèle auto-hébergé peuvent être des fichiers distincts.
• Les scénarios réglementés ou à haut risque nécessitent une évaluation juridique et de sécurité supplémentaire.
• NVIDIA met à disposition de nombreux exemples et outils, mais la plateforme Build elle-même n’est pas un projet entièrement open source.

Ressources officielles GitHub

• GenerativeAIExamples propose des applications de référence pour RAG, NIM et l’IA générative.
• L’exemple d’AI Workbench montre comment passer de l’endpoint Build au téléchargement de NIM.
• Metropolis NIM Workflows propose des exemples d’analyse visuelle et vidéo.
• Le NeMo Agent Toolkit contient des exemples de workflows d’agents et de clés NVIDIA Build.
• k8s-nim-operator est utilisé pour la gestion du cycle de vie de NIM dans les environnements Kubernetes.
• Des exemples de biologie numérique illustrent BioNeMo et les workflows NIM associés.
• Chaque licence d’entrepôt, l’état de maintenance et la conformité de production doivent être vérifiés séparément.

Avantages du produit

• Centraliser les découvertes de modèles, les tests en ligne, la documentation API et les chemins de déploiement en un seul point d’accès.
• Les endpoints de développement gratuits réduisent les barrières à la validation des modèles et à la création de prototypes.
• NIM fournit des microservices de raisonnement normalisés optimisés pour GPU.
• Prend en charge le transfert depuis des endpoints gérés vers des GPU locaux, cloud ou de data centers.
• Les types de modèles couvrent l’IA linguistique, visuelle, vocale, scientifique et physique.
• Les exemples de Blueprint et GitHub aident les développeurs à créer des applications complètes.
• La solution d’entreprise offre des mises à jour de sécurité, un support et la capacité de déploiement à grande échelle.

Restrictions d'utilisation et précautions

• L’endpoint gratuit est destiné à des essais de développement et ne doit pas être considéré comme garantissant une disponibilité en production.
• La limite gratuite, les restrictions de demande et les modèles disponibles peuvent varier ; il est nécessaire de vérifier l’état en temps réel du compte.
• Le modèle pourrait être retiré ou disposer d’une date de désactivation ; l’application nécessite des plans de migration et de fallback.
• Le NIM auto-hébergé nécessite une compatibilité avec les GPU, suffisamment de mémoire vidéo et des capacités d’exploitation de conteneurs.
• Les paramètres d’interface, le contexte, la sortie et le comportement de sécurité des différents modèles diffèrent.
• Les poids ouverts, les conteneurs téléchargeables et le code open source sont des concepts différents.
• Les coûts de production d’une entreprise comprennent également les GPU, le stockage, le réseau, la surveillance et le support technique.
• Les sorties du modèle peuvent être erronées ou peu sûres ; les processus métier critiques doivent faire l’objet d’une évaluation et d’un contrôle manuel supplémentaires.

Plateforme et statut open source

Informations de base

Indice de recommandation

4,7 / 5. NVIDIA Build offre aux développeurs un parcours clair allant de la mise à l’essai des modèles à leur déploiement via NIM, idéal pour les équipes disposant de GPU NVIDIA ou ayant des besoins en IA d’entreprise ; cependant, les licences des modèles, la durée de vie des endpoints gratuits, les exigences en matière de matériel et le coût total de production doivent être vérifiés un par un.

Questions fréquentes

NVIDIA Build peut-il être utilisé gratuitement ?

Certains NIM proposent des endpoints de développement gratuits ; les exemples officiels indiquent qu’un nouveau compte peut obtenir jusqu’à 5000 points. Le montant exact et les limites de demande sont indiqués sur la page en temps réel du compte.

NVIDIA Build a-t-il besoin d’une GPU locale ?

Appeler l’endpoint d’hébergement gratuit ne nécessite pas de GPU local. Seul le téléchargement et l’hébergement propre de NIM exigent que les exigences en matière de GPU, de mémoire vidéo et d’environnement du modèle correspondant soient remplies.

Quelle est la différence entre NIM et l’API des modèles ordinaires ?

NIM encapsule les modèles ainsi que le moteur d’inférence d’optimisation en microservices standards, qui peuvent être hébergés par NVIDIA ou des partenaires, ou déployés sur sa propre infrastructure GPU.

Une API gratuite peut-elle être utilisée en production ?

Il n’est pas recommandé de s’y fier directement. Les endpoints gratuits sont destinés au développement et à l’évaluation ; les systèmes en production doivent opter pour une méthode de déploiement offrant des garanties en termes de capacité, de licences, de support et d’disponibilité.

Tous les modèles sur NVIDIA Build sont-ils open source ?

Non. Le catalogue contient en même temps des modèles de différents fabricants, avec différentes licences et différents niveaux d’ouverture ; il est nécessaire de lire la fiche de chaque modèle ainsi que sa licence.

La plateforme NVIDIA Build est-elle open source ?

La plateforme elle-même n’est pas un projet open source complet, mais NVIDIA a rendu publics sur GitHub de nombreux exemples NIM, des Blueprint, des outils Agent ainsi que des composants d’opération et de maintenance.