Calculateur Cloud

Qu’est-ce que le calculateur cloud ?

Suanjia Cloud est une plateforme de location de puissance GPU et d’entraînement/inférence IA, gérée par la société Guizhou Suanjia Computing Service Co., Ltd.

Les utilisateurs peuvent créer des instances GPU dans le cloud selon leurs besoins, pour l’entraînement de modèles, l’inference, le fine-tuning, la génération d’images par IA et la création de vidéos.

Fonction principale

• Location de GPU de différents modèles sur demande.
• Créer et gérer des instances de projet.
• Utiliser des images de base et des images d’application.
• Lancer le modèle d’IA à partir de la communauté de miroirs.
• Enregistrer les données dans le cloud du projet.
• Créer et réutiliser des images de projets personnels.
• Utiliser l’environnement de développement JupyterLab.
• Par SSH ou connexion à distance.
• Ouvrir les ports nécessaires à l’application.
• Offre de locations à long terme et de solutions pour les entreprises.
• API d’agrégation pour les grands modèles associés.
• Fournir des solutions intégrées de localisation pour les entreprises et les administrations.

Ressources GPU et version

La plateforme propose une version professionnelle Pro, une version légère Air et une section dédiée aux produits nationaux ; ces différentes versions s’adressent respectivement à la production stable, aux tests à court terme et aux scénarios de développement technologique indigène.

Prix de référence actuel de la GPU

La page d’accueil du site officiel affiche les prix horaires de certains GPU ; le montant réel varie en fonction de la version, de la mémoire vidéo, du nœud, des stocks et des promotions.

Le prix indiqué ci-dessus est le prix de départ affiché sur le site officiel lors de la vérification ; il n’équivaut pas au prix final fixe pour toutes les régions et configurations.

Comment choisir une GPU

Lors du choix d’une GPU, il ne faut pas se baser uniquement sur le modèle, mais évaluer en même temps la mémoire vidéo, la taille du modèle, la précision, le batch et la méthode d’entraînement.

Modèles et communautés de miroirs

Le site officiel indique que la communauté d’images offre plus de 200 modèles, couvrant les domaines du langage, de l’image, de la vidéo, du 3D, de l’audio, des avatars numériques et de la programmation.

• L’image de base fournit le cadre et l’environnement de développement.
• Les images de modèle peuvent réduire le nombre d’étapes d’installation manuelle.
• L’image de la communauté nécessite une vérification de la version et de l’état de maintenance.
• Vérifiez la licence et l’usage du modèle avant de le lancer.
• Les poids de pré-entraînement peuvent nécessiter un téléchargement supplémentaire.
• Le fait qu’une image soit disponible ne signifie pas que le modèle puisse être utilisé à des fins commerciales.
• Les projets de production doivent dépendre d’une version fixe.

Exemple de projet

Un exemple de projet est l’environnement dans lequel une tâche de calcul est exécutée réellement ; lors de sa création, il est nécessaire de choisir une GPU, une image, du stockage et un mode de facturation.

1. Vérifier la version du framework requise pour le projet.
2. Mémoire vive requise pour le modèle d’estimation et les données.
3. Choisissez la version GPU et les ressources appropriées.
4. Définir le disque système et le stockage des projets.
5. Choisissez une image de base ou une image communautaire.
6. Créer une instance après vérification du prix de la commande.
7. Vérifier l’état de la GPU et des pilotes après le démarrage.
8. Enregistrer les informations de l’environnement réplicable.

Stockage en ligne de projet et persistance des données

Le stockage de projet est utilisé pour conserver le code, les ensembles de données, les poids et les résultats, afin d’éviter la perte de fichiers importants après la libération de l’instance.

• Distinguer le disque système, le disque de projet et le disque en ligne.
• Vérifier les règles de sauvegarde après l’arrêt et la libération.
• Les gros ensembles de données sont téléchargés par lots selon un catalogue.
• Les points de contrôle d’entraînement sont écrits périodiquement dans le stockage persistant.
• Les résultats importants doivent être téléchargés séparément sur le poste local.
• La désensibilisation des données sensibles doit être effectuée avant leur téléchargement.
• Vider en temps voulu les fichiers qui ne sont pas utilisés depuis longtemps.

Image du projet

L’image du projet peut conserver l’environnement déjà configuré, ce qui facilite la copie des tâches ou la restauration des dépendances dans des instances ultérieures.

1. Vider le cache et les fichiers temporaires non pertinents.
2. Enregistrer le cadre, les moteurs et les versions des dépendances.
3. Supprimer les clés et les paramètres personnels sensibles.
4. Arrêter la tâche d’entraînement qui est encore en écriture.
5. Créez une image et donnez-lui un nom clair.
6. Vérifier si l’image peut démarrer à partir d’une nouvelle instance.
7. Conserver des notes de version pour les images clés.

Mode de connexion à distance

Le centre d’aide fournit des guides d’utilisation pour JupyterLab, VS Code, PyCharm, SSH, VNC et le transfert de fichiers.

Port ouvert

Lors du déploiement d’une interface web, d’une interface de raisonnement ou d’outils de visualisation, il est généralement nécessaire de mapper les ports internes de l’instance vers l’extérieur.

1. Vérifier le port réel écouté par l’application.
2. Faire en sorte que le service écoute l’adresse réseau correcte.
3. Neisser que les ports nécessaires aux opérations.
4. Définir un mot de passe fort ou un jeton d’accès.
5. Ne pas exposer les bases de données et les ports de gestion.
6. Tester l’accès depuis un réseau externe.
7. Fermez la mise en mappage de port une fois la tâche terminée.

Guide d'utilisation de Suanjia Cloud

1. Inscrivez-vous et effectuez la vérification d’identité requise.
2. Vérifiez les prix actuels de la GPU et du stockage avant de recharger.
3. Allez au centre du conteneur pour sélectionner le type d’instance.
4. Choisissez la GPU et la mémoire vidéo en fonction de la taille du modèle.
5. Sélectionnez l’image de base ou l’image d’application.
6. Configurer l’espace de stockage et le cloud de projet.
7. Créer une instance après vérification du mode de facturation.
8. Par connexion JupyterLab ou SSH.
9. Téléversez le code, les modèles et les ensembles de données.
10. Exécutez d’abord une tâche à petite échelle pour valider l’environnement.
11. Commencer l’entraînement formel ou la tâche de raisonnement.
12. Surveillez en continu la mémoire vidéo, les journaux et les frais.
13. Enregistrer les poids, les résultats et les images d’environnement.
14. Vérifier s’il y a encore des frais de stockage après l’arrêt.
15. Libérer les ressources selon les règles lorsqu’elles ne sont plus utilisées.

Prix et mode de facturation

Suanjia Cloud facture principalement en fonction du temps d’exécution sur GPU, de l’espace de stockage et des ressources supplémentaires, et propose également des locations à long terme ainsi que des solutions sur mesure.

Le prix du GPU et les frais de stockage peuvent être calculés séparément, et les conditions de facturation pour l’arrêt, la suspension et la libération doivent également se conformer aux règles de la commande en cours.

Méthode d’estimation des coûts

Le coût réel doit inclure le fonctionnement de la GPU, le stockage, la transmission des données, la conservation à long terme et les coûts de maintenance manuelle, et non seulement le prix en temps réel de la page d’accueil.

1. Enregistrer le nombre d’heures estimé de fonctionnement pour chaque tâche.
2. Calculer le nombre de GPU et le prix par heure.
3. Estimer les données, les poids et la capacité de mémoire tampon.
4. Ajouter la tentative de réessai en cas d’échec et le délai de réglage des paramètres.
5. Évaluer les frais de conservation du stockage après arrêt.
6. Comparer le taux d’utilisation selon la location à la demande et la location à long terme.
7. Définir des rappels pour le solde du compte et les frais.

API de calcul de ponts

L’API CalcBridge est un service d’agrégation de grands modèles sous le label CalcHome Cloud, qui offre une clé unique, un format compatible OpenAI et un facturation par token.

Il s’agit d’un produit différent de la location d’instances GPU : le premier est facturé en fonction du nombre d’appels au modèle, tandis que le second permet de louer des ressources de calcul que l’on peut contrôler soi-même.

Sécurité des données

Les GPU dans le cloud peuvent traiter du code, des ensembles de données et des poids de modèles ; avant leur utilisation, des mesures de sécurité doivent être mises en place en fonction du niveau de sensibilité du projet.

• Ne pas écrire la clé dans l’image publique.
• Utiliser des variables d’environnement pour gérer les identifiants d’accès.
• Restreindre les ports externes et les entrées de gestion.
• Les membres de l’équipe utilisent des comptes et des droits indépendants.
• Masquer ou chiffrer les données sensibles avant leur téléchargement.
• Faites des sauvegardes régulières des points de contrôle d’entraînement et des résultats.
• Nettoyer les identifiants temporaires avant de libérer l’instance.
• Les entreprises examinent les accords de confidentialité et de service lors des achats.

Remboursement et dettes

Le centre d’aide officiel contient des informations sur les remboursements, les arriérés et les règles de gestion des commandes ; les ressources informatiques consommées ou les avantages offerts ne sont pas éligibles au remboursement.

• Lisez les conditions actuelles de remboursement avant de recharger.
• Vérifiez la configuration et le montant avant de créer l’instance.
• En cas de détection d’erreur, les ressources doivent être arrêtées le plus rapidement possible.
• Conserver les commandes, les factures et les historiques de pannes.
• Les arriérés de paiement peuvent affecter l’accès aux instances et aux données.
• Les utilisateurs professionnels doivent demander les informations pour la facture à l’avance.

Situation du logiciel open source

La plateforme cloud de Suanjia est elle-même un service cloud commercial ; à ce jour, aucun dépôt open source officiel de la plateforme vérifiable n’a été trouvé.

Les communautés d’images peuvent déployer des modèles et des algorithmes open source, mais la licence du modèle et le fait que le logiciel de plateforme soit open source sont deux choses distinctes.

À qui s’adresse-t-il

• Étudiants et développeurs en apprentissage profond.
• Établissements universitaires et équipes de recherche pour l’entraînement des modèles.
• Créateurs qui utilisent l’IA pour la génération d’images et de vidéos.
• Ingénieur en algorithmes nécessitant un retouche de modèle.
• Équipe startup qui déploie des services d’inférence.
• Organisations ayant besoin d’une puissance de calcul locale adaptée.
• Clients gouvernementaux et commerciaux souhaitant une implémentation locale.

Avantages du produit

• Plusieurs versions de GPU et de ressources sont disponibles.
• Prend en charge la livraison sur demande, à long terme et sur mesure.
• Les communautés d’images réduisent les barrières à la mise en œuvre des modèles.
• La documentation d’aide couvre les outils de développement courants.
• Prend en charge la réutilisation des clouds de stockage et des images de projet.
• Offrir en même temps les solutions API et les appareils intégrés locaux.

Restrictions d'utilisation

• Les ressources à bas prix peuvent être affectées par les stocks et les promotions.
• Le prix de départ sur le site officiel n’est pas un prix fixe pour toutes les configurations.
• Même après l’arrêt, il faut continuer à faire attention aux frais de stockage.
• L’image de la communauté doit effectuer elle-même une vérification de sécurité.
• Les services de production doivent être testés pour leur stabilité et leur réseau.
• Le fait que la plateforme cloud ne soit pas open source ne signifie pas que les modèles ne le soient pas non plus.
• Interdiction de l’exploitation minière et des utilisations illégales prévues par la plateforme.

Questions fréquentes

Quels services propose principalement Suanjia Cloud ?

Suanjia Cloud propose des instances GPU en cloud, des images de modèles, un stockage en ligne pour les projets, du développement à distance, des locations à long terme, une API Suanqiao et des services d’ordinateurs intégrés pour l’IA d’entreprise.

Can-on utiliser Suanjia Cloud gratuitement ?

Le site officiel propose un accès gratuit pour commencer ainsi que des offres pour les nouveaux utilisateurs, mais les quotas réels gratuits en GPU, stockage et ressources supplémentaires sont indiqués sur la page de compte actuelle.

Combien coûte une GPU Cloud pour une heure ?

Lors de la vérification, le site officiel indique que le RTX 4090D coûte à partir de 1,14 yuan par heure, et le RTX 4090 à partir de 1,24 yuan par heure ; les autres modèles sont tarifés selon les prix affichés en temps réel.

Est-ce que des frais sont encore facturés après l’arrêt du serveur Compute Cloud ?

Les frais de fonctionnement du GPU et les frais de stockage peuvent être séparés ; l’arrêt du système n’entraîne généralement plus de frais de ressources en cours d’exécution, mais le stockage conservé peut encore faire l’objet de frais ; il convient de consulter les règles de la commande.

Suanjia Cloud est-il adapté à l’entraînement de grands modèles ?

La plateforme propose diverses ressources GPU et de grande mémoire vidéo, pouvant être utilisées pour l’entraînement, le micro-ajustement et l’inference ; la faisabilité concrète dépend de la taille du modèle, de la précision et des schémas parallèles.

Quelle est la différence entre l’API de calcul de ponts et la location de GPU ?

L’API de calcul de ponts appelle les modèles hébergés par morphèmes, tandis que la location de GPU fournit des instances de calcul permettant d’installer soi-même l’environnement et de déployer les modèles ; leurs modes de facturation sont différents.

Suanjia Cloud est-il une plateforme open source ?

Non, Compute Cloud est un service cloud commercial ; des modèles open source peuvent être exécutés dans les images, mais cela ne signifie pas que la plateforme cloud elle-même est open source.