Siliziumbasierte Fließeigenschaften

Was ist fließendes Silizium?

SiliconFlow ist ein Unternehmen, das Infrastruktur für die Verarbeitung großer Modelle sowie eine Unternehmensversion der MaaS-Plattform anbietet. Für Entwickler steht das Produkt SiliconCloud als öffentlicher Cloud-Dienst zur Verfügung. Es bündelt Sprach-, Visualisierungs-, Bildgenerierungs-, Sprachverarbeitungs-, Embedding-, Neuordnungs- und Videomodelle verschiedener Hersteller sowie aus Open-Source-Communities auf einer einheitlichen Plattform. Nach der Erstellung eines API-Schlüssels können Nutzer diese Modelle nach Bedarf nutzen.

Im Gegensatz zu Anbietern, die nur ein eigenentwickeltes Modell anbieten, funktioniert SiliconCloud eher wie eine Cloud für die Verarbeitung mehrerer Modelle. Entwickler können innerhalb derselben Kontoeinrichtung und des gleichen APIs die Preise der Modelle, den Kontext, die Aufrufe von Tools, visuelle Aspekte, die Rechenleistung sowie die Geschwindigkeit vergleichen. Anschließend können sie das für ihre Anforderungen geeignete Modell auswählen – ohne selbst GPU-Geräte kaufen, Gewichte bereitstellen oder Rechenclustern warten zu müssen.

Einheitliche Aufrufung von über 100 Modellen

Im Zentrum des aktuellen Modellportals werden mehr als 100 führende Modelle präsentiert, darunter DeepSeek, Qwen, GLM, Kimi, MiniMax, Hunyuan, Step, BaiChuan sowie Projekte aus der Open-Source-Community. Zu den Kategorien gehören Dialoge, Code, visuelle Verarbeitung, Bildgenerierung und -bearbeitung, Spracherkennung, Sprachsynthese, Embedding, Reranking und Videogenerierung.

Jede Modellseite listet die Modell-ID, die Länge des Kontexts, die Größe der Parameter, die Eingangs-/Ausgangskosten sowie die unterstützten Funktionen auf. Bei der Aufrufung muss die vollständige Modell-ID verwendet werden;

Derselbe Modell kann gleichzeitig normale Leitungen sowie hochsichere Leitungen mit dem Präfix „Pro“ umfassen; deren Preise, gleichzeitige Nutzung sowie Servicequalität können unterschiedlich sein.

OpenAI-kompatible API

SiliconCloud bietet eine mit OpenAI kompatible Schnittstelle. Anwendungen, die das übliche OpenAI SDK sowie eine anpassbare Base URL verwenden, können ihren Betrieb einfach durch Ersetzen der Schnittstell-Adresse, des API-Schlüssels und der Modell-ID fortsetzen. In den offiziellen Dokumentationen werden zudem die Konfigurationsmethoden für Tools wie Kilo Code, Cherry Studio, Dify, LangChain, LlamaIndex und Refly beschrieben.

Kompatibilität bedeutet nicht, dass alle Parameter aller Hersteller identisch sind. Die Logik des Verarbeitungsprozesses, die Aufrufe von Tools, die mehrmodalen Eingaben, die fließenden Ausgaben sowie das maximale Token-Limit variieren je nach Modell.

Vor dem Go-Live sollten die Anforderungen an die Lesefähigkeit des Zielmodells ermittelt werden, sowie ununterstützte Parameter sowie Änderungen in der Struktur bei Deaktivierung und Wiederherstellung des Modells berücksichtigt werden.

Dialog- und Schlussfolgerungsmodelle

Die Dialogschnittstelle unterstützt normales Chatten, lange Texte, Code, Schlussfolgerungen, fließende Ausgaben sowie Funktionsaufrufe einiger Modelle. Schlussfolgerungsmodelle geben in der Regel den Inhalt ihrer Überlegungen im separaten Feld „reasoning_content“ zurück. Die Anwendungsseite sollte den Kontext mehrerer Runden gemäß den offiziellen Vorgaben verarbeiten, um zu vermeiden, dass zu lange Schlussfolgerungshistorien unverändert erneut übertragen werden.

Die Fähigkeiten der Modelle unterscheiden sich erheblich: Einige eignen sich für kostengünstige Klassifizierung und Zusammenfassung, andere legen den Schwerpunkt auf die Verwendung von Code sowie Agentenwerkzeugen, wieder andere unterstützen visuelle Inhalte sowie sehr lange Kontexte. Man sollte nicht nur nach der Größe der Parameter wählen, sondern auch Genauigkeit, Verzögerung beim ersten Token, Gesamtverzögerung, Kontextgröße, Obergrenze für die Ausgabe sowie Preis miteinander vergleichen.

Visuell, Bilder und Videos

Multimodale Dialogmodelle können Eingaben in Form von Bildern oder Videos verarbeiten. Die Bildmodelle ermöglichen die Erstellung von Bildern aus Texten sowie deren Bearbeitung, während die Videomodelle nach den erzeugten Ergebnissen abgerechnet werden. Die Erstellungs-API gibt in der Regel Adressen für temporär gültige Dateien zurück. Offiziell wurde festgelegt, dass die Adressen für Bilder und Videos nur etwa 1 Stunde lang gültig sind. Die Anwendungen müssen diese Dateien daher umgehend herunterladen und in ihrem eigenen Objektspeicher speichern.

Die Erstellung von Bildern und Videos wird außerdem durch Größe, Dauer, Modell, Konkurrenz sowie Sicherheitsrichtlinien bezüglich des Inhalts beeinflusst. Asynchrone Aufgaben sollten eine Anfrage-ID sowie den Status der Abfrage speichern und bei Fehlern Rückerstattungen vornehmen oder den Vorgang erneut versuchen. Temporäre Ergebnisadressen sollten nicht als dauerhafte Links für die Dateien verwendet werden.

Sprachsignal, Embedding und Reranking

Die Plattform unterstützt Spracherkennung, Sprachsynthese sowie Modelle für bestimmte Dialekte. Zudem werden verschiedene Embedding- und Rerank-Modelle in Chinesisch und Englisch bereitgestellt. Embedding dient dazu, Texte in Vektoren umzuwandeln, während Rerank dazu verwendet wird, die Ergebnisse der Suche neu zu ordnen. Dies ist eine gängige Kombination in Wissensdatenbanken und RAG-Systemen.

Das Modellzentrum bietet derzeit weiterhin einige kostenlose Embedding-, Reranking-, OCR-, Übersetzung- und Sprachmodell-Angebote. Kostenlos bedeutet jedoch nicht unbegrenzte Anfragen – es können Konflikte bei der gleichzeitigen Nutzung, Geschwindigkeitsbeschränkungen, Wartezeiten sowie zukünftige Änderungen zu Gebühren entstehen.

Das Produktionsystem sollte über ein bezahlbares Ersatzmodell verfügen.

Aktuelles Preismuster

SiliconCloud verfügt nicht über einen einheitlichen monatlichen Mitgliedspreis, sondern nutzt hauptsächlich vorab aufgeladene Guthaben in Kombination mit Gebühren nach Verbrauch. Das Dialogmodell wird je nach Anzahl der Tokens pro Million für Eingabe, Ausgabe und Cache-Hits berechnet;

Bilder werden pro Stück abgerechnet, Sprache pro tausend Zeichen oder nach Modellregeln, Videos werden einzeln berechnet.

Die Preise der verschiedenen Modelle unterscheiden sich stark.

Bis zur aktuellen Überprüfung umfassen die Beispiele für Preiszentren: GLM-5.2 kostet 8 Yuan für die Eingabe und 28 Yuan pro Million Tokens für die Ausgabe; DeepSeek-V4-Flash kostet 1 Yuan für die Eingabe und 2 Yuan für die Ausgabe.

DeepSeek-V3.2 kostet 4 Yuan für die Eingabe und 6 Yuan für die Ausgabe; Qwen3.5-35B-A3B kostet innerhalb von 128K 0,40 Yuan für die Eingabe und 3,20 Yuan für die Ausgabe.

Langzeit-Context-Modelle könnten ab einem bestimmten Schwellenwert höhere Stufenpreise anwenden.

Die aktuellen Preise für Bildgenerierungsmodelle liegen in der Regel bei 0,10 bis 0,30 Yuan pro Bild, wobei einige Modelle kostenlos sind; die Beispiele MOSS-TTSD und CosyVoice2 kosten 0,05 Yuan pro tausend UTF-8-Zeichen.

Die Beispiele für Video-Generierung aus Text und Bild bei Wan2.2 kosten 2 Yuan pro Stück. Die Preise ändern sich häufig; für offizielle Kostenschätzungen muss man die aktuellen Preise im Preisverzeichnis abrufen, anstatt sich auf Screenshots aus Artikeln zu verlassen.

Kostenlose Modelle und kostenloses Guthaben

Das Preiszentrum der Plattform markiert einige Modelle als kostenlos, beispielsweise verschiedene Embedding-, Rerank-, OCR-, Übersetzungs-, Sprach- und Bildmodelle. Kostenlose Modelle eignen sich für Tests, Lehren sowie für RAG zu niedrigen Kosten, doch ihre Verfügbarkeit, Geschwindigkeit sowie die Strategien bezüglich des Online- und Offline-Zustands erfüllen nicht notwendigerweise die SLAs für produktive Anwendungen.

Neuen Nutzern, durch Einladungen sowie im Rahmen von Marketingaktionen kann ein Bonusguthaben gewährt werden. Im offiziellen Aufladungsvertrag wird jedoch kein fester Betrag für die Registrierung zugesichert. Das Bonusguthaben kann nicht ausgezahlt, nicht übertragen und nicht in Rechnungen eingebucht werden. Seine Gültigkeitsdauer sowie der Anwendungsbereich richten sich nach den Regeln der jeweiligen Aktionen. Daher sollte ein einmalig gewährter Bonusbetrag nicht als dauerhares Recht angesehen werden.

Aufladen, Saldo und Rückerstattung

Bevor man online Geld auflädt, muss eine Identitätsüberprüfung durchgeführt werden. Derzeit ist WeChat Pay die einzige Möglichkeit zum Online-Zahlung. Der dadurch entstehende Guthaben hat keine Gültigkeitsdauer, kann jedoch weder übertragen noch verschenkt werden.

Der Betrag des Geschenks wird separat verwaltet.

Innerhalb von 360 Tagen nach Abschluss der Online-Zahlung kann der noch nicht verbrauchte Betrag selbstständig zurückerstattet werden und wird überprüft; es können Gebühren anfallen. Der bereits verbrauchte Betrag sowie der als Gutschein gewährte Betrag können nicht zurückgefordert werden.

Jede Online-Einzahlung ermöglicht grundsätzlich nur einen Rückzahlungsantrag; für Überweisungen zwischen Unternehmen ist es notwendig, sich an den Support zu wenden.

Rechnungen und Quittungen

Die Konsole stellt Rechnungen zur Verfügung, über die man den Verbrauch nach Modell und Anruf einsehen kann. Nur für bereits verbrauchte Beträge kann eine Rechnung ausgestellt werden; für einen aufgeladenen, aber noch nicht verbrauchten Saldo kann keine Rechnung erstellt werden.

Ein geschenkter Saldo kann auch nicht in eine Rechnung umgewandelt werden.

Bei der persönlichen Zertifizierung können nur einfache Rechnungen für Privatpersonen ausgestellt werden. Bei der Unternehmenszertifizierung kann man gemäß den Vorschriften Rechnungen im Namen des Unternehmens beantragen.

Produktionsprojekte sollten nach API-Schlüsseln, Umgebungen oder Geschäftsbereichen in Bezug auf den Verbrauch aufgeteilt werden, und es sollten Alarme für den verbleibenden Betrag eingestellt werden. Test-, Entwicklungs- und Produktionsumgebungen sollten keinen gemeinsamen Schlüssel verwenden, da sonst außergewöhnliche Aufrufe schwer nachverfolgt und Kosten verteilt werden können.

Sicherheit der API-Schlüssel

Die API-Schlüssel verleihen Zugriff auf die Ressourcen des Kontos und müssen in Umgebungsvariablen auf der Serverseite oder in einem Schlüsselverwaltungssystem gespeichert werden. Sie dürfen weder in die Frontend-Codebasis von Webseiten, noch in die Installationsdateien von mobilen Anwendungen, noch in Screenshots oder öffentliche Code Repositorien eingefügt werden. Sollte ein Leck festgestellt werden, müssen sie umgehend gelösst und neu erstellt werden.

Es wird empfohlen, für jede Anwendung eine eigene Schlüssel zu erstellen, Kostenüberwachung sowie Anfragenprotokolle einzurichten und gleichzeitig zu vermeiden, die ursprünglichen, sensiblen Anfragen der Benutzer aufzuzeichnen. Wenn der Client über das öffentliche Internet aufrufen muss, sollte er zunächst seinen eigenen Backend-Server aufrufen, von dem aus die Anfrage an SiliconCloud weitergeleitet wird.

Drosselung und Konkurrenz

Die Plattform legt anhand des Modells, der Leitung, des Kontostands sowie der aktuellen Belastung Grenzwerte für RPM, TPM, RPH, RPD oder die Anzahl der gleichzeitigen Verbindungen fest. In offiziellen Ankündigungen werden die Strategien je nach Ressourcensituation angepasst. Kostenlose Modelle sowie beliebte neue Modelle geraten eher in Warteschlangen oder lösen Limitierungen aus.

Für Fehler wie 429, Zeitüberschreitung und Servicefehler sollten Strategien wie exponentielles Backoff, Circuit Breaker sowie Queue- und Backup-Modelle angewandt werden. Man darf nicht davon ausgehen, dass eine Anfrage immer erfolgreich sein wird. Bei hohen Konkurrenzanforderungen kann man die Pro-Variante wählen oder sich an den Kundenservice wenden, um individuelle Konkurrenzbedingungen sowie SLAs zu klären.

Modell-Anpassung

Die SiliconCloud-Konsole bietet eine Möglichkeit zum Feinabstimmen von Modellen. Für das Training sowie für die Inferenz nach dem Feinabstimmen werden jeweils separate Gebühren berechnet. Nach der Auswahl des Basismodells werden auf der Seite die entsprechenden Preise für Training und Inferenz angezeigt.

Feinabstimmung eignet sich für feste Formate, branchenspezifische Ausdrucksweisen und die Optimierung von Aufgabenvorgängen, ist aber nicht geeignet, um ständig wechselndes Wissen in Echtzeit einzubringen.

Bevor Trainingsdaten hochgeladen werden, sollten persönliche Informationen, Kundengeheimnisse sowie nicht autorisierte Inhalte entfernt werden, um ein Überanpassen des Modells zu vermeiden. In Situationen, in denen das Wissen häufig aktualisiert wird, sollten RAG und Embedding bevorzugt werden.

Unternehmensspezifisches MaaS und Privatisierung

Das unternehmensweite MaaS umfasst die Verwaltung heterogener Rechenressourcen, das Trainieren von Modellen, die Bereitstellung zur Auswertung, die Feinabstimmung der Modelle, die Überwachung sowie die Wiederverwendung von Ressourcen. Es kann an verschiedene Architekturen sowie inländische Prozessoren angepasst werden. Die Anwendungsbereiche umfassen unter anderem Rechenzentren, Energiebereiche, Fertigung, Verkehr sowie Betreiber von Infrastrukturen.

Unternehmen, die sensible Daten nicht aus dem Unternehmen herausgeben möchten, über bereits vorhandene GPUs oder inländische Rechenkapazitäten verfügen sowie spezielle Leistungsanforderungen und Compliance-Anforderungen haben, können sich nach einer lokalen Implementierung erkundigen. Die Unternehmenslösungen werden individuell kalkuliert; im Vertrag müssen Hardwareanpassungen, Lizenzbedingungen für Modelle, Upgrades, SLA-Vorgaben, Sicherheitsprüfungen sowie Betriebsgrenzen klar festgelegt werden.

OneDiff und Beschleunigung der Inferenz

OneDiff ist eine offiziell open source verfügbare Beschleunigungsbibliothek für Diffusionsmodelle auf Siliziumbasis, die zur Optimierung der Berechnungen in Generierungsmodellen wie Stable Diffusion dient. Sie gehört zu einer anderen Ebene als die Cloud-API SiliconCloud: Während OneDiff ein von Entwicklern einsetzbares Beschleunigungsprojekt ist, handelt es sich bei SiliconCloud um einen Dienst zur Verwaltung mehrerer Modelle.

Um OneDiff zu verwenden, muss man weiterhin selbst eine GPU, die Modellgewichte sowie die notwendige Umgebung bereitstellen und sich außerdem an die Lizenzen der jeweiligen Modelle halten. Es ist nicht möglich, alle kommerziellen Modelle von SiliconCloud, das Scheduling-System sowie die Unternehmenskonsole lokal zu kopieren.

BizyAir und ComfyUI

BizyAir bietet ComfyUI-Node an, die es ermöglichen, Workflows in Umgebungen ohne lokale GPU über Cloud-Bereitstellungsfähigkeiten zu nutzen. Sie eignen sich dazu, SiliconCloud-Modelle in nodebasierte Bildverarbeitungspfade einzubinden und sie mit anderen ComfyUI-Node zu kombinieren.

Cloud-Node verbrauchen den Kontostand der Plattform, und die Erstellung von Daten erfolgt über Cloud-Dienste. Im Falle von nicht öffentlich zugänglichen Materialien, Personendarstellungen und Kundenunterlagen muss die Datenerfassungspolitik geprüft werden; man sollte nicht davon ausgehen, dass alle Nodes lokal ausgeführt werden, nur weil ComfyUI selbst open source ist.

GitHub und der Open-Source-Zustand

Die offizielle GitHub-Organisation für Siliziumbasierte Flusslösungen hat Nodes sowie verschiedene Projekte im Zusammenhang mit OneDiff, BizyAir, siliconcloud-cookbook und ComfyUI veröffentlicht. Zudem werden einige upstream-Projekte gepflegt. Die Lizenzen der einzelnen Repositorien unterscheiden sich – man sollte sie daher einzeln prüfen.

Die Cloud-Plattform SiliconCloud sowie die Dienste für einheitliches Modellrouting, Abrechnung, Scheduling und vollständige Inferenz sind nicht vollständig open source. Daher sollte korrekt angegeben werden: „Die Cloud-Plattform ist nicht open source; es werden jedoch mehrere open source-Projekte bereitgestellt.“ Man kann nicht behaupten, dass die gesamte SiliconCloud-Plattform kostenlos privat genutzt werden kann.

Anleitung zur Verwendung von Siliziumbasierten Flüssigkeiten

Eine grundlegende Aufgabe erledigen

1. Registrieren Sie den siliziumbasierten Flow und erstellen Sie einen API-Schlüssel, der ausschließlich für die Testumgebung verwendet wird;
2. Wählen Sie das Modell entsprechend der Eingabetypen, des Kontexts, der Qualität, der Geschwindigkeit und des Preises aus;
3. Zuerst werden mehr als 100 Modelle gleichzeitig aufgerufen, um die minimale Anfrage abzuschließen und die zurückgegebene Struktur zu überprüfen;
4. Testen Sie anschließend die fließende Ausgabe, Parameter und die Reaktion auf Ausnahmen mit Dialog- und Schlussfolgerungsmodellen;
5. Protokollieren Sie Tokens, Anrufanzahl, Verzögerung, Fehlerrate und Kosten pro Aufruf;
6. Tragen Sie den Schlüssel in den Server-basierten Schlüsselmanager ein, bevor Sie die eigentliche Anwendung anschließen;

Erstellung wiederverwendbarer professioneller Workflows

1. Für die Entwicklungs-, Test- und Produktionsumgebungen werden unterschiedliche Schlüssel und Limits verwendet;
2. Einheitliche Aufrufe über mehr als 100 Modelle, Dialog- und Inferenzmodelle sowie repräsentative Bewertungssätze für Vision, Bilder und Videos;
3. Einstellen von Timeout, Konkurrenz, Wiederholungsversuchen, Limitierung sowie Budgetobergrenzen;
4. Durchführung von Überprüfungen hinsichtlich Fakten, Sicherheit, Formatierung und sensibler Informationen am Ausgangsinhalt;
5. Überwachung von Änderungen bei Modellversionen, Preisen, Verzögerungen und Ausfallraten;
6. Vorbereitung von Plänen für die Herabstufung des Modells, Schutzmaßnahmen sowie manuelle Übernahme.

Für welche Nutzer geeignet?

• Entwickler, die eine API nutzen möchten, um schnell nationale und open-source große Modelle zu vergleichen und zwischen ihnen zu wechseln;
• Teams zur Entwicklung von Chat-, Code-, Agent-, RAG-, Bild-, Sprach- oder Video-Anwendungen;
• Unternehmen und unabhängige Entwickler, die keine eigene GPU-Inferenz-Cluster einrichten möchten;
• Wissensdatenbank-Projekte, die Embedding, Reranking und multimodale Fähigkeiten benötigen;
• Unternehmen, die eine an die inländischen Rechenkapazitäten angepasste Lösung sowie lokale MaaS-Dienste und spezielle Services benötigen.

Vorteile des Produkts

• Einheitliche Konten und APIs decken mehr als 100 Modelle ab;
• Kompatibel mit der OpenAI-Ökosystem – die Migration sowie die Konfiguration von Drittanbieter-Tools erfordern nur geringe Anstrengungen.
• Gleichzeitig Abdeckung von Text, Visuals, Bildern, Sprache, Vektoren, Neuordnung und Video;
• Pay-as-you-go und kostenlose Modelle in verschiedenen Varianten verfügbar;
• Angebot von Modell-Feinabstimmung, Pro-Version sowie unternehmensinterner MaaS-Privatisierung;
• Offizielle Wartung von Open-Source-Projekten wie OneDiff, BizyAir und Cookbook.

Einschränkungen und Hinweise

• Die Liste der Modelle, die Preise, die Versionen sowie die Beschränkungen ändern sich häufig. Alte Modelle können aus dem Angebot genommen werden oder nahtlos auf neue Versionen aktualisiert werden.
• Anwendungen, die stark von der Ausgabeabhängigkeit abhängen, sollten eine feste Modell-ID haben, Regressionstests durchführen und nach Veröffentlichung von Aktualisierungen überprüfen.
• Aggregations-APIs beseitigen nicht die inhärenten Illusionen des Modells sowie die Risiken im Bereich Urheberrecht, Sicherheit und Konformität.
• Kostenlose Leitungen garantieren keine langfristige Stabilität;
• Die temporären Adressen der erstellten Dateien müssen rechtzeitig gespeichert werden;
• Ein Leck von Schlüsseln kann zu einem Verlust des Saldo führen;
• In medizinischen, rechtlichen, finanziellen und administrativen Anwendungen müssen manuelle Überprüfungen sowie Sicherheitskontrollen im jeweiligen Bereich erhöht werden.

Häufige Fragen

Ist der Silizium-basierte Flow kostenlos?

Die Plattform berechnet Gebühren nach Verbrauch, doch im Modellzentrum gibt es zahlreiche kostenlose Modelle. Zudem können Aktionen zusätzliche Guthaben bieten. Die kostenlosen Modelle sowie die Boni ändern sich, was nicht bedeutet, dass alle Modelle kostenlos sind.

Wie viel kostet eine Silizium-basierte Flow-API?

Es gibt keinen einheitlichen Preis pro Einheit. Die Abrechnung erfolgt nach der Anzahl der eingegebenen, ausgegebenen und im Cache gespeicherten Tokens; der aktuelle Preis liegt je nach Menge der Tokens zwischen einigen Zehntel bis zu mehreren Dutzend Yuan.

Bilder kosten in der Regel ab 0,10 Yuan, einige Videos etwa 2 Yuan pro Stück – man sollte sich den aktuellen Preisvergleich ansehen.

Ist die siliziumbasierte Plattform mit der OpenAI API kompatibel?

Es ist kompatibel mit den gängigen OpenAI-Schnittstellen und SDK-Einstellungen, doch für Inferenz, multimodale Verarbeitung, Toolaufrufe sowie modellspezifische Parameter muss weiterhin nach den offiziellen Dokumentationen vorgegangen werden.

Verfällt der Ladebetrag?

Der tatsächlich gezahlte Aufladungsbetrag hat keine Gültigkeitsdauer; der geschenkte Betrag wird gemäß den Regeln der Aktion gesteuert.

Für nicht verbrauchte Beträge bei Online-Zahlungen kann innerhalb von 360 Tagen nach Aufladung ein Rückzahlungsantrag gestellt werden, der geprüft wird.

Ist Silizium-basiertes Flow Open Source?

Die Kern-Cloud-Plattform von SiliconCloud ist nicht open source, doch die offiziell veröffentlichten Projekte OneDiff, BizyAir und Cookbook sind es. Offene Quellcode-Repositorien bedeuten jedoch nicht, dass eine vollständige Cloud-Plattform selbst gehostet werden kann.