Shengsi MindSpore
Open-Source-KI-Berechnungsframework zur Unterstützung von Training, Inferenz und Multi-Hardware-Einsatz
Tags:AI-EntwicklungsframeworksWas ist MindSpore von Ascend?
MindSpore ist ein Open-Source-AI-Framework für das Training und die Inferenz, das eine Abdeckung aller Szenarien – Cloud, Edge und Endgeräte – sowie eine optimierte Zusammenarbeit von Hardware und Software bietet. Es stellt Funktionen wie Tensor-Verarbeitung, neuronale Netze, automatische Differentiation, Datenverarbeitung, Graph-Kompilierung, verteiltes Training, Debugging-Analysen sowie eine effiziente Bereitstellung bereit.
Entwickler können mit Python Modelle erstellen, diese in Umgebungen wie CPU oder Ascend NPU trainieren und auswerten. Zudem können die Modelle über MindSpore Lite auf mobilen Geräten, IoT-Geräten sowie eingebetteten Systemen eingesetzt werden. Das Ökosystem umfasst außerdem MindFormers, Tools für die Auswertung großer Modelle, Werkzeuge für wissenschaftliche Berechnungen sowie Branchenspezifische Lösungen.
Aktuelle Version von MindSpore 2.8
MindSpore 2.8 wurde im Januar 2026 offiziell veröffentlicht und stellt die derzeit stabile Version auf der offiziellen Website zur Zeit dieser Überprüfung dar. Diese Version konzentriert sich auf Hyper-Nodes, die verteilte Trainierung großer Modelle, die Erweiterung von Dynamische Graphen sowie die Verbesserung der Inferenz-Funktionalitäten. Dazu gehören auch Architekturen wie HyperParallel sowie Funktionen wie HyperShard, HyperOffload und HyperMPMD.
Die offizielle Website bietet sowohl die Entwicklungsdokumentation für Master als auch Dokumentationen für ältere Versionen an. In der Produktionsumgebung sollte stets die vollständige Version 2.8 verwendet werden, und sie muss mit CANN, Treibern, Firmware sowie Python kompatibel sein.
Die Experimentierfunktion in Master kann nicht direkt als Verpflichtung für eine stabile Version angesehen werden.
Dynamische Diagramme im PyNative-Modus
Der PyNative-Dynamikmodus führt den Python-Code in Echtzeit aus, was das Schritt-für-Schritt-Debuggen, das Ausgeben von Zwischenergebnissen sowie die Umsetzung eines dynamischen Ablaufs erleichtert. In Version 2.8 wurden Funktionen wie Tensor Dispatch und saved_tensors_hook hinzugefügt, die Möglichkeiten zur Vorschau oder Verbesserung bieten und Erweiterungspunkte für die Verteilung auf heterogene Geräte sowie das Entladen von Werten bereitstellen.
Dynamische Graphen sind flexibel, weisen jedoch im Laufzeitbetrieb andere Kosten sowie Ansätze zur Parallelverarbeitung auf als statische Graphen. Bevor man experimentelle Funktionen verwendet, sollten Umgebungsvariablen, unterstützte Operatoren und Einschränkungen überprüft werden, und es muss ein Rückfallweg mit deaktivierter Funktion vorhanden sein.
Statisches Diagramm Graph-Modus
Das Graph-Modell erfasst und kompiliert den Rechenvorgang mithilfe von JIT, wodurch Operator-Fusion, Speicherwiederverwendung sowie globale Scheduling-Möglichkeiten ermöglicht werden. Es eignet sich für den Trainings- und Inferenzprozess bei hohen Leistungsanforderungen. MindSpore nutzt automatische Differentiation auf Basis der Quellcode-Übertragung, um die Programmstruktur bereits in der Kompilierungsphase analysieren zu können.
Statische Diagramme haben Grenzen in Bezug auf die Python-Syntax, Nebeneffekte und dynamische Strukturen. Die erste Kompilierung verlängert die Startzeit, und dynamische Shapes können eine erneute Kompilierung auslösen.
Es ist notwendig, die Kompilierzeit sowie die durchschnittliche Durchsatzleistung gleichzeitig zu bewerten.
Automatische Differentialrechnung
Die automatische Differentiation von MindSpore verwendet den Ansatz der Quellcode-Transformation, wodurch eine symbolische Umwandlung der intermediären Programmrepräsentation erfolgt. Dadurch werden höherer Ordnung Funktionen, Klammerfunktionen sowie teilweise komplexe Kontrollflüsse unterstützt, und es wird eine Grundlage für die Optimierung bei der statischen Kompilierung bereitgestellt.
Für benutzerdefinierte Operatoren und spezielle numerische Logiken können zusätzliche Rückwärtsregeln erforderlich sein. Bei der Trainierung sollten Gradientenprüfungen, endliche Differenzen oder Vergleiche mit dem Basismodell verwendet werden, wobei besonderes Augenmerk auf komplexen Zahlen, höheren Ableitungen und gemischter Präzision zu legen ist.
HyperParallel-Architektur
MindSpore 2.8 stellt eine HyperParallel-Architektur für Super-Nodes vor, die umfangreiche Rechenressourcen als einheitliches System zur Programmierung und Steuerung betrachtet. Die Kernkomponenten sind die deklarative Parallelisierung durch HyperShard, die mehrstufige Speicherentlastung durch HyperOffload sowie die unregelmäßige, heterogene Parallelisierung durch HyperMPMD.
Diese Fähigkeiten richten sich hauptsächlich an sehr große Modelle sowie komplexe, heterogene Clustern. Einige Funktionen befinden sich noch in der Vorab- oder Experimentierphase; Benutzer, die einzeln arbeiten, müssen HyperParallel nicht konfigurieren, um die grundlegenden APIs nutzen zu können.
Deklarative Parallelisierung mit HyperShard
HyperShard ermöglicht es den Nutzern, PyNative-Modelle aus der Sicht einer einzigen Karte zu entwickeln und anschließend eine Parallelisierungsstrategie festzulegen. Das System übernimmt dann die Umsetzung dieser Strategie, die Aufteilung des Graphen in Teile, die Zuweisung von Ressourcen sowie die Steuerung der parallelen Ausführung. Zudem werden verschiedene Ebenen der Kontrolle bereitgestellt – manuell, über DTensor oder Shard.
Diese Fähigkeit zielt darauf ab, die Modellberechnungen von den verteilten Strategien zu entkoppeln, doch die automatische Ableitung erfordert weiterhin die Unterstützung durch Modelloperatoren, Cluster-Topologie sowie Kommunikationsinfrastruktur. Vor dem Einsatz sollte die Leistung, der Arbeitsspeicherbedarf sowie die Skalierbarkeit im Vergleich zu manuellen Strategien überprüft werden.
HyperOffload-GRAM-Optimierung
HyperOffload abstrahiert den Datentransport in Operationen innerhalb eines Rechentopos, verteilt Parameter oder Aktivierungen zwischen dem Speicher des Geräts, dem Hauptspeicher sowie anderen Ebenen und sorgt dafür, dass Vorholen und Berechnungen so weit wie möglich übereinanderfallen. Statische Graphen ermöglichen eine automatische Organisation des gesamten Graphen, während dynamische Graphe eine feingranuliertere Schnittstelle bieten.
In den offiziellen Mitteilungen wird ausdrücklich darauf hingewiesen, dass HyperOffload sich noch in der Testphase befindet. Die Deaktivierung kann den Arbeitsspeicher für die Grafikeinheit reduzieren, kann aber die I/O-Auslastung der Busse und des Speichers erhöhen.
Wenn die Bandbreite unzureichend ist, sinkt die Durchsatzrate sogar – in diesem Fall sollte ein Profiler verwendet werden, um dies zu überprüfen.
Distributed Training
MindSpore unterstützt Datenparallelität, Modellparallelität auf Operator-Ebene, Pipeline-Parallelität, Parameter-Splittung sowie verschiedene gemischte Parallelisierungsstrategien. Werkzeuge wie msrun können mehrprozessiges Training oder Inferenz starten und automatisch parallele Strategien zur Suche und Verbreitung von Operator-Splittungen anwenden.
Distributed-Aufgaben erfordern Kommunikumsumgebungen wie HCCL, Topologiekonfigurationen, Daten-Sharding sowie Fehlertoleranzlösungen. Vor der Skalierung sollten zunächst Tests zur Überprüfung der Korrektheit einzelner Karten sowie Tests zur Wiederherstellung in kleinem Umfang durchgeführt werden, und außerdem Strategien sowie Checkpoint-Metadaten gespeichert werden.
Training großer Modelle und MindFormers
MindFormers ist ein Ökosystem-Kit für die Vortrainierung, Feinabstimmung, Bewertung und Inferenz großer Modelle, das Transformer-Modelle, parallele Konfigurationen, Datenverarbeitung sowie verteilte Skripte bereitstellt. Es ist besonders auf Ascend-Cluster und das MindSpore-Framework abgestimmt.
Die Versionen von MindFormers, MindSpore, CANN sowie die Hardware müssen genau zueinander passen. Die Implementierung des gleichnamigen Open-Source-Modells in MindSpore kann im Hinblick auf das Gewichtsformat, den Tokenizer und die Generierungsparameter im Vergleich zum ursprünglichen PyTorch-Repo Abweichungen aufweisen; nach dem Umstieg sollten daher Regressionstests durchgeführt werden.
Großmodell-Infersenz
MindSpore kann große Modelle entweder mit einer Karte oder mit mehreren Karten verarbeiten. In Version 2.8 wurde außerdem die Integration in die Ökosysteme von SGLang und vLLM verbessert; zudem werden bestimmte Funktionen zur Caching-Verwaltung sowie zur Verarbeitung von Graphen unterstützt. Bei der Verarbeitung mit mehreren Karten müssen mehrere Prozesse gleichzeitig gestartet werden – anstatt einfach nur die Skripte für eine einzige Karte wiederholt auszuführen.
Die Liste der von dem Modell unterstützten Funktionen, die Möglichkeiten zur Quantifizierung, die Parallelisierungsfunktionen sowie die Service-Schnittstellen ändern sich mit den Versionen des Inferenz-Frameworks. Bei der Kombination aus Zielmodell und Hardware sollten die Verzögerung beim Erzeugen des ersten Tokens, die Generierungskapazität, der Speicherverbrauch des KV-Caches sowie die Langzeitteststabilität getestet werden.
MindSpore Lite
MindSpore Lite ist ein leichtgewichtiges Tool für Inferenz und Training am Edge-Device, das Handys, IoT-Geräte, eingebettete Systeme sowie Edge-Devices abdeckt. Das Konvertierungstool kann Formate wie MindSpore, ONNX und TensorFlow in Lite-Modelle umwandeln und ist außerdem für ARM-, x86- sowie einige NPU-Hardware-Architekturen optimiert.
Lite unterstützt außerdem die Erstellung von Code, der auf MCUs oder kleinen Systemen eingesetzt werden kann. Ein erfolgreicher Modellumwandlung bedeutet nicht, dass alle Operatoren durch Hardware beschleunigt werden;
Es müssen die Konvertierungsprotokolle, die Genauigkeitsfehler, das Modellvolumen, der maximale Speicherverbrauch sowie die Laufzeit auf der Endgeräte-Seite überprüft werden.
Vollständige Szenarien am Cloud-Rand
- Die Ausbildung kann in der Cloud oder in Rechenzentren durchgeführt werden, um anschließend durch Umwandlung, Quantifizierung und Kürzung an den Edge-Computern sowie Geräten eingesetzt zu werden.
- Edge-Daten können auch für leichtes Training oder personalisierte Aktualisierungen verwendet werden;
- Dies ist der Kernweg der Kombination aus MindSpore und MindSporeLite;
- Ein vollständiges Szenario bedeutet nicht, dass derselbe Modelldatei unverändert auf allen Geräten ausgeführt werden kann.
- Verschiedene Backend-Systeme bieten unterschiedliche Unterstützung für Operatoren, Präzision und dynamische Formen – in der Regel ist daher eine separate Konvertierung, Optimierung und Überprüfung erforderlich.
Datenverarbeitung und Debugging
MindSpore.dataset bietet Funktionen zur Datenerfassung, zum Mapping, Batch-Verarbeitung, Shuffling sowie zu visuellen Transformationen und ermöglicht so den parallelen Aufbau von Eingabepipelines. Profiler-, Dump- und Debugging-Tools dienen dazu, Informationen über Operatoren, Zeitverläufe, Speicherverbrauch sowie Fehler zu sammeln.
Mehrprozessverarbeitung von Daten beansprucht gemeinsam genutztes Speichermedium. Das Debuggen sowie das Erstellen von Dump-Dateien können außerdem viele Dateien erzeugen, was die Leistung beeinträchtigen kann. Bei der Diagnose in der Produktionsumgebung sollten Abtastbereiche, Verzeichnisse sowie Strategien zur Aufbewahrung von Daten festgelegt werden, um einen Ausfall des Festplattenspeichers zu vermeiden.
MindSpore Science
MindSpore Science richtet sich an die Anwendung von KI in der Wissenschaft und bietet Graphenberechnungen, equivariante Netzwerke, physikalische Informationsneuronennetze, differenzierbare Löser sowie wissenschaftliche Operatoren. Zu den Anwendungsgebieten gehören Meteorologie, Strömungskinetik, Elektromagnetismus, Moleküle, Materialwissenschaften und Energie.
MindSpore Earth kann für Wetter- und Geowissenschaftsmodelle verwendet werden, MindElec dient der elektromagnetischen Simulation, und MindQuantum unterstützt die Forschung im Bereich der Quantenrechenung. Die Aktivität der verschiedenen Unterprojekte sowie die jeweiligen Versionen unterscheiden sich – daher sollte man sich auf die konkreten Repositorien beziehen, anstatt allein anhand des Gesamtpakets eine Beurteilung der Reifegrad zu treffen.
Hardware und Installation
MindSpore unterstützt in erster Linie die Ascend AI-Prozessoren, bietet aber auch eine CPU-Umgebung an; die GPU-Unterstützung hängt vom 2.8-Installations-Selektor ab.
Die Installation von Ascend erfordert eine Abstimmung mit dem CANN Toolkit sowie den Ops-Komponenten, Treibern und Firmware sowie die korrekte Einrichtung der Umgebungsvariablen.
Beispiele von offiziellen Foren zeigen, dass ein erfolgreicher Basis-Multiplikationscheck allein sowie gleichzeitig Fehler im te-Modul nicht als vollständiger Installierungserfolg angesehen werden dürfen. Die Fehler bei der Versionskontrolle müssen beseitigt werden, und die tatsächlichen Operatoren sowie Trainingsbeispiele müssen ausgeführt werden.
Installationstest
Es kann über pip, offizielle Wheel-Dateien, Container oder durch Kompilierung aus dem Quellcode installiert werden. Nach der Installation sollte mindspore importiert werden, die Version überprüft, die offiziellen Tests sowie einfache Tensor-Berechnungen ausgeführt werden. Anschließend sollten das Zielgerät, die verteilte Kommunikation oder die Lite-Umwandlung überprüft werden.
Der Dateiname von Wheel enthält die Python-Version, das Betriebssystem sowie die Architektur. Jede Abweichung in diesen Angaben führt zu einem fehlgeschlagenen Installationsversuch. Es wird empfohlen, eine eigene Conda-Umgebung zu verwenden und eine vollständige Liste der Abhängigkeiten zu speichern.
Preise und Kosten
Das Kernframework von MindSpore, MindSpore Lite sowie das offizielle öffentliche Repository sind kostenlos verfügbar – es fallen keine Gebühren für die Nutzung des Frameworks an. Die Apache 2.0-Lizenz erlaubt die Nutzung, Änderung und Verteilung unter bestimmten Bedingungen.
Kostenlose Frameworks beinhalten keine Ascend-Server, Cloud-Rechenleistung, Speicher, Strom, Cluster-Verwaltung oder kommerzielle Unterstützung. Bei der Verwendung von Huawei Cloud ModelArts oder anderen Cloud-Plattformen wird nach den entsprechenden Cloud-Produkten abgerechnet.
Für Anpassungen an das Unternehmen sowie Preise für Dienstleistungen ist eine gesonderte Anfrage erforderlich.
GitHub, Gitee und AtomGit
Der Kerncode ist im GitHub-Repo mindspore-ai/mindspore sowie in der MindSpore Gitee-Organisation öffentlich zugänglich; neue Teile der Ökosystem-Plattform können außerdem von AtomGit gepflegt werden. Das Hauptrepo wird unter der Apache License 2.0 lizenziert.
Verschiedene Kits, Beispiele, Modellgewichte und Datensätze können unterschiedliche Lizenzen haben. Offener Quellcode bedeutet nicht, dass die Ascend-Hardware, alle Komponenten von CANN sowie Cloud-Dienste unter derselben Open-Source-Lizenz fallen.
Anleitung zur Verwendung von MindSpore
Eine grundlegende Aufgabe erledigen
- Installieren und konfigurieren Sie MindSpore von Ascend, um für die Experimente separate Projekte sowie Laufnamen einzurichten;
- In dem Trainingsskript sollten Hyperparameter, Datenversionen, Codeversionen sowie die Zufallszahlenseed festgehalten werden;
- Initialisieren Sie die Aufgabe mit der aktuellen Version von MindSpore 2.8 und verbinden Sie sich mit dem richtigen Cloud- oder Private-Service;
- Durch den Einsatz des dynamischen Diagrammmodus PyNative werden kontinuierlich Verluste, Metriken, Protokolle sowie der Hardwarezustand aufgezeichnet;
- Führen Sie ein kleines Trainingslauf durch, um zu überprüfen, ob Schrittanzahl, Einheiten, Kurven und Medienbeispiele korrekt sind;
- Speichern Sie nach Abschluss das Modell, die Einstellungen, die Ergebnisse sowie die Anleitung zur Wiederholung des Experiments.
Erstellung wiederverwendbarer professioneller Workflows
- Einheitliche Normen für die Benennung von Projekten, Experimenten, Indikatoren und Labels;
- Die aktuelle Version MindSpore 2.8 sowie die Modi PyNative für dynamische Graphen und Graph für statische Graphen sollen in das Trainingsschema aufgenommen werden;
- Versionen für Datensätze, Code, Umgebungen und Modelle verknüpfen;
- Verwenden Sie dasselbe Bewertungsset und dieselben Vergleichsexperimente, um zu vermeiden, sich nur auf glatte Kurven zu konzentrieren;
- Einschränkung des Upload-Bereichs für sensible Proben, Prompts und Modellausgaben;
- Stellen Sie Alarme für Ausnahmen, Speicherungspolitiken sowie manuelle Überprüfungen ein, bevor Sie sie auf das Team ausweiten;
Für welche Nutzer geeignet?
- Entwickler, die Modelle mit der Ascend NPU trainieren und auswerten;
- Teams, die automatische Parallelverarbeitung durch große Modelle, den Abruf von Daten aus dem Grafikspeicher sowie Super-Node-Fähigkeiten benötigen;
- Ingenieure, die das Modell auf Smartphones, IoT-Geräte und Edge-Geräte einsetzen möchten;
- Anwender, die Forschungen im Bereich Meteorologie, Physik, Molekularwissenschaften und wissenschaftlicher Berechnungen durchführen;
- Studenten, die sich mit inländischen, open-source-basierten Frameworks für tiefes Lernen sowie der optimierten Kombination von Hardware und Software beschäftigen.
Vorteile des Produkts
- Native Ascend-Anpassung und gemeinsame Optimierung von Hardware und Software;
- Dynamische und statische Diagramme bieten sowohl Benutzerfreundlichkeit als auch Kompilierleistung.
- Automatische Differentiation, automatische Parallelisierung und HyperParallel sind für das Training mit großen Datenmengen geeignet;
- MindSpore Lite umfasst Edge-Geräte und MCU;
- MindFormers und MindSpore Science bieten große Modelle sowie wissenschaftliche Kit-Sets an;
- Apache 2.0 ist open source und verfügt über vollständige Dokumentation auf Chinesisch.
Einschränkungen und Hinweise
- MindSpore ist stark mit den Versionen von CANN, Treibern, Firmware, MindFormers sowie den Hardware-Modellen verknüpft; in den Installationsanleitungen muss daher dieselbe Version ausgewählt werden.
- Fähigkeiten wie HyperOffload in 2.8 haben weiterhin einen experimentellen Charakter und sollten ohne Testen nicht direkt für kritische Produktivitätsaufgaben eingesetzt werden.
- Die Anzahl der Ökosystemmodelle sowie die Kompatibilität mit Drittanbietern unterscheiden sich von PyTorch; für die Migration sind Gewichtsübersetzungen und Validierungsoperatoren erforderlich.
- Das Framework ist kostenlos, doch die Rechenkosten sind hoch;
- Die kommerziellen Rechte an den konkreten Modellen und Daten müssen ebenfalls separat überprüft werden.
Häufige Fragen
Ist MindSpore kostenlos?
Der Kernrahmen sowie Lite sind kostenlos und open source – es fallen keine Mitgliedsgebühren an. Für Ascend-Hardware, Cloud-Rechenleistung, Speicherlösungen sowie Unternehmensunterstützung müssen hingegen zusätzliche Kosten entrichtet werden.
Welche ist die aktuellste stabile Version von MindSpore?
Stand der Überprüfung: 2,8, offizielle Veröffentlichung im Januar 2026. Das Master-Dokument enthält aktualisierte oder experimentelle Funktionen; für die Produktion wird die Version 2,8 empfohlen.
Kann MindSpore nur auf Ascend laufen?
Nein. Es bietet zwar eine Umgebung mit CPU usw., doch die umfassendste Integration von Hardware und Software sowie die Fähigkeiten für große Modelle richten sich in erster Linie auf Ascend.
Andere Geräte werden entsprechend der Installationsseite 2.8 unterstützt.
Kann MindSpore auf Smartphones bereitgestellt werden?
Modellumwandlung und Edge-Inferenz sind mit MindSpore Lite möglich; es wird ARM, x86, einige NPU sowie kleine Systeme unterstützt, wobei die Operatoren des Zielgeräts überprüft werden müssen.
Ist MindSpore open source?
Open Source, das Kernrepositorium verwendet Apache 2.0. Modellgewichte, Daten, CANN-Komponenten und Cloud-Dienste müssen nicht unbedingt unter derselben Lizenz stehen.
Guigong-Netzwerk-Sicherheitsnummer: 45132202000164