Le grand modèle PanGu de Huawei

Qu’est-ce que le grand modèle PanGu de Huawei ?

Le grand modèle PanGu de Huawei est un ensemble de modèles de base et de solutions proposés par Huawei Cloud pour l’intelligence artificielle dans les différents secteurs industriels. Il comprend non seulement des modèles linguistiques universels, mais couvre également des domaines tels que la vision par ordinateur, le multimodal, la prédiction et le calcul scientifique. Les entreprises peuvent utiliser ModelArts Studio pour expérimenter avec les modèles, gérer l’ingénierie des données, entraîner les modèles, les affiner, les quantifier, les évaluer, déployer des systèmes de raisonnement et développer des agents.

La position de Pangu est davantage axée sur les modèles sectoriels et la mise en œuvre au niveau des entreprises, plutôt que sur des robots de conversation gratuits destinés aux consommateurs ordinaires. Les utilisateurs ont généralement besoin d’un compte Huawei Cloud, d’une vérification d’identité, d’une autorisation de service ainsi que de ressources régionales appropriées ; les frais sont calculés en fonction de la souscription au modèle, des données, des paramètres d’entraînement et d’inference.

Capacités fondamentales du grand modèle Pangu

Grand modèle NLP de Pangu

Pangu NLP est utilisé pour des tâches telles que la génération de texte, les questions-réponses, les résumés, l’extraction d’informations, la classification, le code et le raisonnement complexe. ModelArts Studio présente actuellement des modèles linguistiques Pangu de différentes tailles et niveaux, permettant de choisir en fonction des capacités, du contexte, de la vitesse et du coût de déploiement.

Le nom du modèle, ses paramètres et la plage d’ouverture seront mis à jour ; il convient de se référer à la fiche du modèle dans la console.

Grand modèle CV de Pangu

Pangu CV construit des capacités visuelles basées sur des données d’images et de vidéos, couvrant la détection d’ensembles ouverts, la détection d’interactions visuelles, la détection d’objets, le suivi, la segmentation et la synthèse de données d’images sectorielles. Il est adapté à des scénarios tels que le contrôle qualité industriel, l’inspection d’équipements, la reconnaissance d’événements urbains, etc., et propose une chaîne d’outils allant des données aux applications spécialisées.

Grand modèle multimodal Pangu

La direction multimodale est utilisée pour combiner la compréhension de textes, d’images, de vidéos, de documents, etc., et peut prendre en charge les questions-réponses visuelles, la compréhension des documents et l’interaction avec les connaissances sectorielles. Les formats d’entrée réellement utilisables, leurs tailles, le contexte ainsi que les capacités API dépendent du modèle souscrit et de la région.

Pangu prédit les grands modèles

Les grands modèles de prédiction sont conçus pour des tâches structurées telles que les tableaux, les séries temporelles et les données graphiques, offrant des fonctions de régression, de classification, de prédiction de séries temporelles et de détection d’anomalies. La présentation officielle met l’accent sur le codage unifié, la compréhension des tâches, la recommandation et la fusion de modèles, ce qui les rend adaptés à l’industrie manufacturière, à l’énergie, au logistique et à la maintenance d’équipements, mais ils nécessitent néanmoins un entraînement ou une adaptation à l’aide de données historiques métier.

Grand modèle de calcul scientifique Pangu

La direction des calculs scientifiques s’adresse à des domaines tels que la météorologie, l’océanographie et les systèmes physiques, et améliore l’efficacité des prédictions et des simulations grâce à des modèles pilotés par des données. De tels modèles nécessitent généralement des données spécialisées, une évaluation sectorielle et un environnement de calcul puissant ; il ne faut pas utiliser directement les démonstrations de recherche comme base pour prendre des décisions opérationnelles.

Grand modèle industriel

Pangu se concentre sur des secteurs tels que la gouvernance, la finance, l’électricité, le pétrole et le gaz, les mines, l’acier, la fabrication et la médecine, et développe des capacités spécialisées en combinant des modèles de base, des données spécialisées et des connaissances. Les solutions sectorielles impliquent généralement la gouvernance des données, le micro ajustement, des bases de connaissances, l’évaluation, les droits d’accès et des exigences de privatisation, nécessitant des conseils pour les projets et une livraison conjointe.

Fonctionnalités de ModelArts Studio

Place du modèle et expérience

La place des modèles comprend non seulement Pangu, mais propose également des modèles tiers tels que DeepSeek et Qwen. Les utilisateurs peuvent consulter les fiches des modèles, en tester les capacités et choisir entre une API ou un mode de déploiement.

Les licences, les politiques de données et les prix des modèles tiers ne sont pas exactement identiques à ceux de Pangu.

Ingénierie des données

La plateforme prend en charge l’importation, le nettoyage, l’étiquetage, le traitement et la gestion des versions des données, afin de préparer celles-ci pour l’entraînement préalable, le fine-tuning et l’évaluation. Les ressources de données peuvent faire l’objet de frais liés à des unités d’hébergement, des unités de calcul intelligent ou des unités de calcul généralistes ; les données sensibles doivent disposer de contrôles d’accès, d’encryption et d’une gestion du cycle de vie.

Entraînement et retouche du modèle

Les entreprises peuvent utiliser des modèles prédéfinis et des ressources d’entraînement pour effectuer un ajustement fin, un entraînement incrémental ou une adaptation sectorielle. Les ressources d’entraînement peuvent être fournies à l’avance ou facturées en fonction du temps réel d’utilisation.

Avant de commencer un entraînement à grande échelle, il convient d’abord de valider le format, la perte, la mémoire vidéo et la qualité de sortie à l’aide de petits ensembles de données, et de définir des alertes de budget.

Évaluation, quantification et déploiement

La plateforme offre des capacités d’évaluation des modèles, de quantification de la compression et de déploiement pour l’inference, et peut exécuter des services basés sur la puissance de calcul Ascend. L’évaluation doit prendre en compte l’exactitude, la sécurité, les illusions, les biais, les délais et les coûts ;

Après la quantification, il faut vérifier à nouveau la qualité.

Une fois le service de raisonnement mis en ligne, il faut également configurer la concurrence, l’élasticité, l’authentification, les journaux et la surveillance.

Développement d’agents et d’applications

ModelArts Studio peut être intégré à la plateforme d’agents Huawei Cloud, aux bases de connaissances, aux systèmes de recherche et aux systèmes métier afin de créer des systèmes de questions-réponses, d’automatisation de processus et d’agents intelligents sectoriels. Lorsque l’outil dispose de droits d’accès réels, il est nécessaire de restreindre les identifiants et les paramètres de vérification, ainsi que d’imposer une approbation manuelle pour les actions clés.

Comparaison des systèmes de modèles Pangu

Mode de facturation du grand modèle Pangu

Les documents officiels de facturation décomposent les coûts en abonnements aux modèles, ressources de données, ressources de formation et ressources d’inference. Les différentes régions, modèles, spécifications et offres sur la plateforme chinoise peuvent présenter des prix différents ; il n’est donc pas possible de décrire l’ensemble de la plateforme Pangu à l’aide d’un seul tarif par token.

Comparaison entre cycle de paquet et facturation à la demande

Arrêter le code ou fermer le navigateur n’arrête pas nécessairement la facturation des ressources. Une fois la tâche terminée, il convient de supprimer ou d’arrêter les instances d’entraînement, les services de déduction et les unités de données non plus nécessaires, puis de vérifier la facture via le centre de frais.

Guide d'utilisation de l’API PanGu

1. Inscription et certification :Créez un compte Huawei Cloud et terminez l’authentification par identité réelle, puis activez le service ModelArts Studio ou Pangu dans la région cible.
2. Sélectionner le modèle :Vérifier les capacités, le contexte, le format des entrées, les prix, les restrictions régionales et les contraintes de contenu sur la place du modèle.
3. S’abonner ou déployer :Sélectionnez l’API de modèle, les ressources d’entraînement ou les unités de déduction en fonction du scénario, puis estimez le budget.
4. Créer une clé d’accès :Utilisez IAM pour l’authentification, optez pour des utilisateurs aux droits minimaux ou la délégation, et ne stockez pas de clés à long terme en clair dans le code.
5. Évaluation des capacités :Vérifier la Prompts, les sorties, les délais et le filtrage de sécurité dans la console à l’aide d’une petite quantité de données non sensibles.
6. Appel de l’API :Transmettre l’ID du modèle, le message et les paramètres selon le document, et gérer l’authentification, la limitation du débit, les délais d’expiration et les codes d’erreur.
7. Surveillance en ligne :Enregistrer le nombre de demandes, la durée des tokens ou des ressources, le taux d’échec et les risques liés au contenu, et définir des budgets et des alertes.

Sécurité des données et conformité

Les modèles sectoriels traitent fréquemment des documents d’entreprise, des données de production et des informations personnelles. Il convient de définir clairement la région où se trouvent les données, les entités ayant accès à elles, ainsi que les journaux et la durée de conservation, en utilisant IAM, VPC, le chiffrement et des contrôles d’audit.

Dans les domaines de la santé, de la finance et de l’administration publique, il est nécessaire d’appliquer en plus des exigences de conformité sectorielle et une vérification manuelle.

Est-ce open source

La plateforme commerciale du grand modèle PanGu de Huawei et son ensemble complet de produits ne peuvent pas être qualifiés d’open source. Huawei Cloud pourrait rendre accessibles certains modèles, codes ou outils de développement, mais ils disposent chacun de leurs propres dépôts et licences ;

Le fait qu’une API soit callable ne signifie pas pour autant que les poids du modèle soient accessibles.

Vérifiez la carte du modèle spécifique et l’accord de licence avant utilisation.

Guide d'utilisation du grand modèle PanGu de Huawei

Créer des flux de travail professionnels réutilisables

1. Utiliser des clés et des quotas différents pour les environnements de développement, de test et de production ;
2. Établir un ensemble d’évaluation représentatif en comparant les capacités fondamentales du grand modèle Pangu, les fonctionnalités de ModelArts Studio et le système de modèles Pangu ;
3. Définir les délais d’attente, la concurrence, les tentatives de réessai, le throttling et les plafonds budgétaires ;
4. Effectuer des vérifications sur la sortie en ce qui concerne les faits, la sécurité, le format et les informations sensibles ;
5. Surveiller les changements de version, de prix, de délai et de taux d’échec des modèles de surveillance ;
6. Préparer des plans de dégradation du modèle, de coupure et de prise en main manuelle ;

À qui s’adresse-t-il

• Entreprises gouvernementales et organisations de grande taille ayant besoin de compétences en chinois et de modèles sectoriels ;
• Équipes d’IA souhaitant effectuer l’entraînement et le déploiement pour l’inference sur des capacités de calcul Ascend ;
• Développeurs industriels travaillant sur la vision industrielle, la prédiction, la météorologie et les documents professionnels ;
• Les entreprises ayant besoin d’une chaîne d’outils intégrée pour les données, l’entraînement, l’évaluation et le déploiement ;
• Les équipes qui souhaitent intégrer de grands modèles dans leurs systèmes métier existants via une API ou un agent.

Avantages et précautions

• L’avantage de Pangu est sa large couverture sectorielle, des modèles complets, ainsi qu’une intégration profonde avec les outils Huawei Cloud, Ascend et ModelArts, ce qui le rend adapté à la gouvernance des données au niveau entreprise, à l’entraînement et au déploiement.
• Sa configuration et sa facturation sont plus complexes que celles des API de chat ordinaires, et certaines fonctionnalités nécessitent une consultation commerciale ou sont réservées à des régions spécifiques.
• Le projet doit d’abord faire l’objet d’une validation à petite échelle, avant d’acquérir des ressources à long terme.
• Les grands modèles peuvent encore produire des hallucinations, des biais et des sorties dangereuses ;
• Les prévisions et les modèles scientifiques nécessitent également une évaluation par des experts du domaine, et ne peuvent pas remplacer directement les décisions professionnelles.

Questions fréquentes

Le grand modèle Pangu est-il gratuit ?

Ce n’est pas un produit gratuit et uniforme. Le site officiel peut proposer une version d’essai ou des tests de fonctionnalités, tandis que l’abonnement officiel, l’entraînement, les données et les ressources de raisonnement sont facturés en fonction des configurations.

Le grand modèle Pangu propose-t-il une API ?

Des API correspondantes pour les modèles et capacités sont fournies ; il est nécessaire d’activer le service sur Huawei Cloud, de se faire authentifier et d’appeler ces API conformément aux documents du modèle cible.

Le grand modèle Pangu ne contient-il que des modèles linguistiques ?

Non, cela inclut également des modèles de base tels que les CV, les modèles multimodaux, la prédiction et le calcul scientifique, ainsi que plusieurs solutions sectorielles.

Le grand modèle Pangu peut-il être déployé en mode privé ?

Les entreprises peuvent consulter des solutions de cloud dédié, hybride ou déployées dans un secteur spécifique ; les modèles précis, la puissance de calcul, les licences et le support sont définis par le contrat commercial.

Le grand modèle Pangu est-il open source ?

La plateforme commerciale complète n’est pas un produit open source. Pour les modèles ou codes partiellement ouverts, il faut consulter respectivement leur fiche de modèle, leur répertoire et leur licence.