Rechnerwolke

Was ist Suanjia Yun?

Suanjia Cloud ist eine Plattform für die Miete von GPU-Rechenleistung sowie für das Training und die Auswertung von KI-Modellen, die von der Guizhou Suanjia Computing Service Co., Ltd. betrieben wird.

Benutzer können nach Bedarf Cloud-GPU-Instanzen erstellen, die zur Modelltrainierung, -inferenz, -Feinabstimmung sowie zum künstlerischen Zeichnen und Videoerstellen mit KI genutzt werden.

Hauptfunktionen

• Mehrere GPU-Modelle können nach Bedarf gemietet werden.
• Erstellen und Verwalten von Projektinstanzen.
• Verwenden Sie Basis- und Anwendungsimages.
• Starten Sie das AI-Modell aus der Spiegel-Community.
• Speichern Sie die Daten über den Projekt-Cloud-Speicher.
• Erstellung und Wiederverwendung von persönlichen Projekt-Images.
• Verwenden Sie die Entwicklungsumgebung JupyterLab.
• Über SSH oder Remote-Desktop-Verbindung.
• Öffnen der für die Anwendung benötigten Ports.
• Langfristige Mietverträge und Unternehmenslösungen bieten.
• Komplette API für die Aggregation großer Modelle.
• Es werden integrierte Lösungen für die Lokalisierung in Politik und Wirtschaft angeboten.

GPU-Ressourcen und Versionen

Die Plattform bietet die professionelle Version Pro, die leichte Version Air sowie einen speziellen Bereich für inländische Produkte. Die verschiedenen Versionen sind für eine stabile Produktion, kurzfristige Tests sowie Anwendungen im Bereich der innovativen Technologien konzipiert.

Aktueller Referenzpreis für GPU

Auf der Startseite der offiziellen Website werden die Mindestpreise pro Stunde für einige GPUs angezeigt. Der tatsächliche Preis variiert je nach Version, Grafikspeicher, Rechenknoten, Verfügbarkeit und aktuellen Aktionen.

Der oben angegebene Preis ist der auf der offiziellen Website bei der Überprüfung angezeigte Startpreis und entspricht nicht dem festen Verkaufspreis in allen Regionen und für alle Konfigurationen.

Wie wählt man eine GPU aus?

Bei der Auswahl einer GPU sollte man nicht nur auf das Modell schauen, sondern auch den Grafikspeicher, die Größe des Modells, die Genauigkeit, die Batch-Größe sowie die Trainingsmethode berücksichtigen.

Modelle und Spiegelgesellschaften

Laut der offiziellen Website bietet die Mirror-Community mehr als 200 Modelle, die Sprache, Bilder, Videos, 3D, Audio, digitale Avatare sowie Programmierung abdecken.

• Die Basis-Image bietet ein Framework und eine Entwicklungsumgebung.
• Modellspiegel können die Anzahl der manuellen Installationsschritte verringern.
• Die Community-Spiegel müssen auf Version und Wartungsstatus überprüft werden.
• Stellen Sie vor dem Start die Lizenz und den Verwendungszweck des Modells sicher.
• Die vortrainierten Gewichte müssen möglicherweise separat heruntergeladen werden.
• Die Verfügbarkeit einer Abbildung bedeutet nicht, dass das Modell für kommerzielle Zwecke genutzt werden kann.
• Produktionsprojekte sollten sich fest auf eine Version stützen.

Projektbeispiele

Ein Projektbeispiel ist die Umgebung, in der Rechenaufgaben tatsächlich ausgeführt werden. Bei der Erstellung müssen GPU, Image, Speicher sowie die Abrechnungsmethode ausgewählt werden.

1. Bestätigen Sie die erforderliche Framework-Version für das Projekt.
2. Schätzung der für das Modell und die Daten benötigten Arbeitsspeichermenge.
3. Wählen Sie die geeignete GPU- und Ressourcenversion aus.
4. Einstellen des Systemlaufwerks und der Projektspeicherung.
5. Wählen Sie ein Basis-Image oder ein Community-Image aus.
6. Erstellen Sie eine Instanz, nachdem Sie den Preis der Bestellung überprüft haben.
7. Überprüfen Sie nach dem Start den Zustand der GPU und der Treiber.
8. Speichern Sie Informationen über die wiederherstellbare Umgebung.

Projekt-Cloud-Speicher und Datenspeicherung

Der Projekt-Cloud-Speicher dient dazu, Code, Datensätze, Gewichte und Ergebnisse zu speichern, um zu verhindern, dass wichtige Dateien nach der Freigabe der Instanz verloren gehen.

• Unterscheiden Sie zwischen Systemlaufwerk, Projektlaufwerk und Cloud-Laufwerk.
• Bestätigen Sie die Speicherregeln nach dem Herunterfahren und Freigeben.
• Große Datenmengen werden in Batches gemäß dem Verzeichnis hochgeladen.
• Trainings-Checkpointe werden regelmäßig in die persistente Speicherung geschrieben.
• Wichtige Ergebnisse werden separat lokal heruntergeladen.
• Sensible Daten müssen vor dem Hochladen entgegenstellt werden.
• Dateien, die über einen längeren Zeitraum nicht verwendet werden, sollten rechtzeitig gelöscht werden.

Projekt-Image

Projektspiegel können die bereits konfigurierte Umgebung speichern, um Aufgaben zu kopieren oder Abhängigkeiten in späteren Instanzen wiederherzustellen.

1. Löschen Sie den Cache sowie unerwünschte temporäre Dateien.
2. Protokollieren Sie Framework-, Treiber- und Abhängigkeitsversionen.
3. Entfernen von Schlüsseln und sensiblen persönlichen Einstellungen.
4. Beenden Sie die noch schreibende Trainingsaufgabe.
5. Erstellen Sie ein Image und geben Sie einen klaren Namen an.
6. Überprüfen Sie anhand einer neuen Instanz, ob das Image starten kann.
7. Behalten Sie Beschreibungen der Versionen für die Schlüsselspiegel bei.

Verbindung per Fernzugriff

Die Hilfeseite bietet Anleitungen für die Verwendung von JupyterLab, VS Code, PyCharm, SSH, VNC sowie zum Dateitransfer.

Port offen

Bei der Bereitstellung einer Web-Oberfläche, einer Inferenz-Schnittstelle oder von Visualisierungstools ist es in der Regel notwendig, die internen Ports der Instanz auf externe Ports zu mappen.

1. Überprüfen Sie die Ports, die von der Anwendung tatsächlich abgehört werden.
2. Stellen Sie sicher, dass der Dienst die richtige Netzwerkadresse abhört.
3. Nur die für den Betrieb notwendigen Ports werden geöffnet.
4. Legen Sie ein starkes Passwort oder einen Zugriffstoken fest.
5. Veröffentlichen Sie weder Datenbanken noch Verwaltungsporte.
6. Testen des Zugriffs über das externe Netzwerk.
7. Schließen Sie die Port-Übersetzung nach Abschluss der Aufgabe.

Anleitung zur Verwendung von Suanjia Cloud

1. Registrieren Sie ein Konto und führen Sie die notwendige Identitätsüberprüfung durch.
2. Prüfen Sie vor dem Aufladen die aktuellen Preise für GPU und Speicher.
3. Gehen Sie ins Zentrum des Containers und wählen Sie den Instanztyp aus.
4. Wählen Sie die GPU und den Grafikspeicher entsprechend der Modellgröße aus.
5. Wählen Sie ein Basis-Image oder ein Anwendungs-Image aus.
6. Konfigurieren Sie den Speicherplatz und die Projekt-Cloud.
7. Erstellen Sie eine Instanz, nachdem Sie die Abrechnungsmethode überprüft haben.
8. Über JupyterLab oder eine SSH-Verbindung.
9. Laden Sie Code, Modelle und Datensätze hoch.
10. Zuerst führen Sie kleine Aufgaben aus, um die Umgebung zu überprüfen.
11. Beginnen Sie mit dem formalen Training oder den Schlussfolgerungsaufgaben.
12. Beobachten Sie kontinuierlich den Arbeitsspeicher, die Protokolle und die Kosten.
13. Speichern von Gewichten, Ergebnissen und Umgebungsabbildungen.
14. Nach dem Stillstand prüfen, ob weiterhin Speicherkosten anfallen.
15. Ressourcen werden gemäß den Regeln freigegeben, wenn sie nicht mehr verwendet werden.

Preise und Abrechnungsmethoden

Suanjia Cloud berechnet die Gebühren hauptsächlich nach der GPU-Auslastungszeit, dem Speicher sowie zusätzlichen Ressourcen und bietet außerdem Langzeitmietmodelle sowie maßgeschneiderte Lösungen an.

Die Preise für GPU und Speicherkosten können getrennt berechnet werden. Die Gebühren für Herunterfahren, Stoppen und Freigeben richten sich ebenfalls nach den Regeln der aktuellen Bestellung.

Methoden zur Kostenschätzung

Die tatsächlichen Kosten sollten die Laufkosten der GPU, die Speicherung, den Datentransfer, die langfristige Aufbewahrung sowie die personellen Betriebskosten umfassen – und nicht nur den Preis auf der Startseite.

1. Erhalten Sie eine Aufzeichnung der geschätzten Laufzeit für jede Aufgabe.
2. Berechnen Sie die Anzahl der GPUs und den Preis pro Stunde.
3. Schätzen Sie Daten, Gewichte und Cache-Kapazität.
4. Fügen Sie Wiederholungsversuche bei Fehlern sowie Zeit für Einstellungsanpassungen hinzu.
5. Bewertung der Speicherhaltungsgebühren nach dem Herunterfahren.
6. Vergleichen Sie die Auslastung bei Bedarfsvermietung und Langzeitmietung.
7. Einstellen von Erinnerungen für den Kontostand und Gebühren.

Brücken-API

Die Bridge-API ist ein Aggregationsdienst für große Modelle unter dem Dach von Suanjia Cloud, der eine einheitliche Schlüsselverwaltung, einen OpenAI-kompatiblen Format sowie eine Abrechnung nach Tokens bietet.

Es handelt sich um ein anderes Produkt als die Miete von GPU-Instanzen: Bei dem ersten Modell wird nach der Anzahl der Aufrufe bezahlt, während bei dem zweiten Modell berechenbare Ressourcen gemietet werden, die man selbst steuern kann.

Daten-Sicherheit

Cloud-GPUs können Code, Datensätze und Modellgewichte verarbeiten; vor der Nutzung sollten Sicherheitsmaßnahmen entsprechend dem Sensitivitätsgrad des Projekts eingeführt werden.

• Schreiben Sie den Schlüssel nicht in öffentliche Images.
• Verwenden Sie Umgebungsvariablen zur Verwaltung von Zugangsdaten.
• Beschränkung der externen Ports und der Verwaltungs-Eingänge.
• Teammitglieder verwenden eigene Konten und Berechtigungen.
• Empfindliche Daten sollten vor dem Hochladen entgegenstehend verfremdet oder verschlüsselt werden.
• Führen Sie regelmäßig Backups der Trainings-Checkpointe und Ergebnisse durch.
• Löschen Sie die temporären Zugangsdaten, bevor Sie die Instanz freigeben.
• Unternehmen prüfen bei Einkäufen die Datenschutz- und Dienstleistungsbedingungen.

Rückerstattung und offene Rechnungen

Im offiziellen Hilfeservice finden Sie Informationen zu Rückerstattungen, ausstehenden Zahlungen sowie den Regeln für die Verwaltung von Bestellungen. Für bereits verbrauchte Rechenleistung oder kostenlos zur Verfügung gestellte Vorteile wird in der Regel keine Rückerstattung gewährt.

• Lesen Sie vor der Aufladung die aktuellen Rückerstattungsbedingungen.
• Stellen Sie vor der Erstellung einer Instanz die Konfiguration und den Betrag überprüft sicher.
• Sobald ein Fehler festgestellt wird, sollten die Ressourcen umgehend gestoppt werden.
• Bestellungen, Rechnungen und Fehlerprotokolle speichern.
• Ausstehende Zahlungen können den Zugriff auf Instanzen und Daten beeinträchtigen.
• Unternehmenskunden sollten die Rechnungsunterlagen im Voraus anfordern.

Open-Source-Situation

Die Rechencloud-Plattform selbst ist ein kommerzieller Cloud-Dienst; derzeit wurde kein offizieller Open-Source-Repository der Plattform gefunden.

Im Spiegelbild-Community können Open-Source-Modelle und -Algorithmen eingesetzt werden, doch die Lizenzbedingungen der Modelle sind etwas anderes als die Tatsache, ob die Plattformsoftware selbst Open Source ist.

Für welche Benutzer geeignet

• Studenten und Entwickler, die tiefes Lernen lernen.
• Universitäten und Forschungsteams, die Modelle trainieren.
• Kreative, die künstliche Intelligenz für das Erstellen von Bildern und Videos einsetzen.
• Algorithmus-Ingenieure, die eine Modellanpassung benötigen.
• Unternehmerisches Team zur Bereitstellung von Inferenzdiensten.
• Organisationen, die inländische Rechenleistung benötigen.
• Hoffentlich lokale politische und unternehmerische Kunden.

Vorteile des Produkts

• Es stehen verschiedene GPU- und Ressourcen-Versionen zur Verfügung.
• Unterstützung für Bedarfsbestellung, Langzeitmiete und maßgeschneiderte Lieferung.
• Image-Communities senken die Hürden für den Einsatz von Modellen.
• Die Hilfedokumentation umfasst gängige Entwicklungstools.
• Unterstützung der Wiederverwendung von Cloud-Speicher und Projekt-Images.
• Gleichzeitig werden sowohl der API-Weg als auch der lokale All-in-One-Ansatz angeboten.

Nutzungsbeschränkungen

• Ressourcen zu niedrigen Preisen können von Lagerbeständen und Aktionen beeinflusst werden.
• Der Startpreis auf der offiziellen Website gilt nicht als fester Preis für alle Ausstattungsvarianten.
• Auch nach dem Herunterfahren müssen die Speicherkosten berücksichtigt werden.
• Community-Spiegel müssen ihre Sicherheit selbst überprüfen.
• Produktionsdienste sollten Stabilität und Netzwerk testen.
• Dass eine Cloud-Plattform nicht open source ist, bedeutet nicht, dass die Modelle nicht open source sind.
• Das Bergbauwesen sowie die vom Platform festgelegten unzulässigen Verwendungen sind verboten.

Häufige Fragen

Welche Dienstleistungen bietet Suanjia Cloud hauptsächlich an?

Suanjia Cloud bietet Cloud-GPU-Instanzen, Modellabbilder, Projekt-Cloud-Speicher, Remote-Entwicklung, Langzeitmietmodelle, Compute-Bridge-APIs sowie integrierte Enterprise-AI-Dienste an.

Kann Suanjia Cloud kostenlos genutzt werden?

Die offizielle Website bietet einen kostenlosen Einstieg sowie Aktionen für neue Nutzer, doch die tatsächlichen kostenlosen Mengen an GPU-Ressourcen, Speicherplatz und zusätzlichen Ressourcen richten sich nach den Angaben auf der aktuellen Konto-Seite.

Wie viel kostet eine Cloud-GPU pro Stunde?

Bei der Überprüfung zeigt die offizielle Website, dass die RTX 4090D ab 1,14 Yuan pro Stunde und die RTX 4090 ab 1,24 Yuan pro Stunde kosten. Für andere Modelle gilt der Preis, der auf der jeweiligen Seite angezeigt wird.

Wird nach dem Herunterfahren des Cloud-Rechners weiterhin Gebühren berechnet?

Die Kosten für die Nutzung der GPU sowie die Speicherkosten können getrennt sein. Beim Herunterfahren werden in der Regel keine Ressourcenkosten mehr berechnet, doch der gespeicherte Inhalt kann weiterhin Gebühren verursachen – es sollten daher die Bestellbedingungen überprüft werden.

Eignet sich Sunja Cloud zum Trainieren großer Modelle?

Die Plattform bietet verschiedene GPU- und große Speicherkapazitäten, die für das Training, die Feinabstimmung sowie die Inferenz genutzt werden können. Die praktische Umsetzbarkeit hängt von der Größe des Modells, der Genauigkeit sowie den Parallelisierungsstrategien ab.

Was ist der Unterschied zwischen einer Bridge-API und dem Leasen einer GPU?

Die Bridge-API ruft das Hosted-Modell nach Morphemen auf, während die GPU-Miete bereitgestellte Recheninstanzen bietet, auf denen man ein eigenes Umfeld einrichten und Modelle bereitstellen kann. Beide Methoden haben unterschiedliche Abrechnungsmodelle.

Ist Suanjia Cloud eine Open-Source-Plattform?

Nein, Jianjia Cloud ist ein kommerzieller Cloud-Service; in den Images können Open-Source-Modelle ausgeführt werden, doch das bedeutet nicht, dass die Cloud-Plattform selbst Open Source ist.