Shizhi AI

Was ist das KI-System WiseModel von Shizhi?

Die AI-Plattform WiseModel von Beijing WiseModel Technology Co., Ltd. ist eine offene Plattform für KI-Modelle und Agenten. Sie bündelt Modelle, Datensätze, Code, Gemeinschaften von Agenten, MaaS-Schnittstellen, GPU-Rechenleistung, Images sowie Anwendungsräume in einem einzigen Entwicklungsprozess zusammen.

Die Plattform richtet sich an Entwickler, Forscher und Teams, die nach Ressourcen suchen, Modelle online aufrufen möchten, Rechenleistung für das Training mieten oder AI-Projekte veröffentlichen wollen. Es handelt sich dabei nicht um einen einzigen Chatbot – die Nutzer müssen zunächst die gewünschten Ressourcen auswählen, die jeweiligen Lizenzen durchlesen und anschließend entscheiden, ob sie diese herunterladen, aufrufen oder bereitstellen möchten.

Hauptfunktionen

Modelle, Datensätze und Code-Ressourcen

• Der Open-Source-Ressourcen-Modul dient zum Durchsuchen, Suchen und Filtern von KI-Modellen, Datensätzen und Code. Zu den Projektdetails gehören Anleitungsdateien, eine Dateiliste sowie Versionsinformationen.
• Angemeldete Benutzer können Projekte erstellen und ihre eigenen Ressourcen veröffentlichen, was geeignet ist, um Ergebnisse von Modellen vorzustellen, Datensätze zu verwalten oder Replikationscode zu teilen.
• Die Aufnahme von Open-Source-Ressourcen auf der Plattform bedeutet nicht, dass alle Einträge unter derselben Lizenz stehen. Vor dem Herunterladen muss man die Lizenzen für Modelle, Gewichte, Daten und Code einzeln überprüfen.
• Bei dieser Überprüfung zeigt die Liste einiger Ressourcen 0 Einträge an; die Anzahl der bisher gespeicherten Ressourcen kann nicht als aktuelle Anzahl der herunterladbaren Ressourcen angesehen werden.

MaaS-Modell-API

• MaaS ermöglicht es den Nutzern, API-Anfragen online zu stellen, ohne Modelle lokal bereitstellen zu müssen. Die Modelle können nach Art der Aufgabe, Größe der Parameter sowie Länge des Kontexts ausgewählt werden.
• Der Nutzungsvorgang umfasst die Autorisierung des Anbieters, den Kauf von Ressourcenpaketen sowie die Verwaltung von API-Schlüsseln und eignet sich zur Einbindung von Textgenerierung oder anderen Modellfähigkeiten in Anwendungen.
• Die offiziellen Dokumente beschreiben die Abrechnungsmethode als Pay-as-you-go, doch verschiedene Modelle sollten jeweils eigene Preise, Ressourcenpakete und Lizenzbedingungen haben.
• Bei dieser Überprüfung zeigte der MaaS-Markt keine Modelle an, weshalb die in den Dokumenten aufgeführten Funktionalitäten nicht als die Verfügbarkeit von sofort erhältlichen Modellen interpretiert werden können.

GPU-Leistung und Trainingsumgebung

• Die Rechenleistungsplattform zeigt GPU-Konfigurationen wie 4090, H20, H800, H100, A100 und A800 an und lässt sich nach Anzahl der Karten, CPU, Speicher, Systemfestplatte und Stunden auswählen.
• Benutzer können mithilfe des Plattformmodells und der Images Trainings- oder Inferenzumgebungen erstellen, wodurch die Arbeit zur eigenen Vorbereitung von Treibern, Abhängigkeiten und Servern reduziert wird.
• Die Preise steigen je nach Konfiguration und Anzahl der Karten an, und die Verfügbarkeit der Ressourcen ändert sich in Echtzeit; bei dieser Überprüfung waren die meisten angezeigten Konfigurationen ausverkauft.
• Vor der Miete sollten Speicher, Speicherkapazität, Netzwerk, Region, Images, Datentransfer, Abrechnung bei Herunterfahren sowie die Regeln zur Freigabe von Instanzen überprüft werden.

Spiegelzentrum und Anwendungsraum

• Das Image-Zentrum dient zur Verwaltung der Docker-Entwicklungsumgebung und hilft Teams dabei, Frameworks, Treiber sowie Abhängigkeiten wiederverwendbar zu machen.
• Der Anwendungsbereich dient zum Erstellen und Verwalten von KI-Anwendungs-Diensten und kann als Eingangspunkt für Modellvorführungen, Online-Experience oder Projektlieferungen dienen.
• Bei dieser Überprüfung zeigt die Liste der verfügbaren Anwendungen, dass derzeit keine Anwendungen verfügbar sind, und es erscheint eine Meldung, dass die Details der Anwendungen nicht abgerufen werden konnten. Die Fähigkeit zur Erstellung von Anwendungen sollte von den Beständen auf dem offenen Markt getrennt betrachtet werden.

AgentVerse-Agenten-Community

• AgentVerse dient zum Erkunden, Erstellen und Verwalten von Agenten sowie bietet Funktionen für die Veröffentlichung in der Community, Kommentare, Interaktion und Vernetzung.
• Laut den Nutzungsbedingungen werden Agenten von menschlichen Nutzern erstellt und über die Plattform-SDKs integriert; sie haben keine eigene Rechtspersönlichkeit.
• Der Ersteller muss die Konfiguration des Agents, die Authentifizierungsdaten, die veröffentlichten Inhalte sowie die Interaktionsverhalten verwalten und für das Verhalten des Agents verantwortlich sein.
• Die Plattform bietet Funktionen zur Eingabe von Prompten, zum Schutz vor Social-Engineering-Angriffen sowie zur Filterung von Eingaben und Ausgaben sensibler Informationen, garantiert jedoch keinen vollständigen Schutz.

Vergleich der Kernmodule

Registrierung und vollständiger Workflow

1. Registrieren Sie ein Konto bei Shizhi AI und vervollständigen Sie die E-Mail-Verifizierung. Lesen Sie außerdem die Nutzungsbedingungen und die Datenschutzrichtlinien.
2. Suchen Sie in Open-Source-Ressourcen nach Modellen, Datensätzen oder Code und überprüfen Sie den Projektbetreuer, die Version, die Dateien sowie die Lizenz.
3. Falls die Ressourcen nur lokal verwendet werden sollen, laden Sie sie gemäß den Anweisungen des Projekts herunter und notieren Sie die jeweiligen Lizenzbedingungen für die Modellgewichte, den Code und die Daten.
4. Um online aufzurufen, gehen Sie zu MaaS, um die derzeit verfügbaren Modelle anzusehen, führen Sie die Autorisierung des Anbieters sowie den Kauf des Ressourcenpakets durch und erstellen Sie anschließend einen API-Schlüssel.
5. Wenn Sie für Training oder dedizierte Inferenz benötigen, überprüfen Sie den GPU-Bestand und wählen Sie die Instanz nach Grafikspeicher, CPU, Arbeitsspeicher, Systemfestplatte und Anzahl der Karten aus.
6. Wählen oder erstellen Sie ein Image, laden Sie Code und Daten hoch und überprüfen Sie in einer isolierten Umgebung Abhängigkeiten, den Speicherverbrauch sowie die Ergebnisse der Inferenz.
7. Für eine Online-Demo muss ein Anwendungsraum erstellt werden; bei Interaktion mit Agenten müssen diese konfiguriert und die Authentifizierungsdaten geschützt werden.
8. Nach Abschluss des Projekts wird die Rechenleistung gestoppt und freigegeben, die nicht mehr benötigten Schlüssel werden zurückgenommen, notwendige Ergebnisse werden gesichert und sensible Daten gelöscht.

Preis und aktuelle Verfügbarkeit

Die oben angegebenen GPU-Preise sind die repräsentativen Startpreise, die auf der Überprüfungsseite angezeigt werden. In den meisten Fällen steht fest, dass die entsprechenden Ressourcen ausverkauft sind; daher können sie nicht als Verpflichtung zur Lieferung angesehen werden. Der tatsächliche Preis, der Lagerbestand, Sonderangebote, Ressourcenpakete sowie die zu zahlende Summe richten sich nach den Informationen auf der aktuellen Seite im Konto.

Der öffentliche Vertrag legt keine eindeutigen Bedingungen für Rückerstattungen fest, und es werden auch keine Angaben dazu gemacht, wie bei Ausfällen, Wartezeiten, Fehlern der Instanzen sowie ungenutzten Ressourcenpaketen Rückerstattungen erfolgen. Vor dem Aufladen oder Mieten sollte man zunächst die Regeln für jede einzelne Bestellung prüfen und den Ablauf mit kleinen, kurzfristigen Instanzen testen.

Hinweise zur Anbindung an APIs

• Die MaaS-Dokumentation bestätigt die Bereitstellung einer Online-Modell-API sowie der Verwaltung von API-Schlüsseln. Allerdings gelten die Interface-Adressen, Parameter und Authentifizierungsverfahren gemäß den detaillierten Informationen zur jeweiligen Version des Modells.
• Verschiedene Anbietermodelle können eine separate Genehmigung erfordern; Ressourcepakete sind standardmäßig nicht zwischen Modellen, Anbietern oder Konten übertragbar.
• Der MaaS-Markt ist derzeit leer; es ist daher nicht möglich, die aktuelle Liste der Modelle, die Preis pro Aufruf, die Limits bezüglich Konkurrenzanfragen, die Geschwindigkeitsbeschränkungen sowie die Kontextgrenzen zu ermitteln.
• Die Produktverbindung sollte minimale Berechtigungen für die Schlüssel festlegen, diese in der sicheren Konfiguration des Serverseits speichern und vermeiden, dass sie in die Frontend-Struktur, öffentliche Repositorien, Logs oder Agentenantworten geschrieben werden.
• Der Aufrufende sollte Timeout-, Wiederholungs-, Limitierungs-, Fehlerbehandlungsmechanismen sowie Warnungen bei unzureichendem Guthaben und Überprüfungen der Ergebnisse implementieren und außerdem die Modellversion sowie wichtige Parameter aufzeichnen.

Open-Source-Zustand und Lizenz

• Shizhi AI ist eine Community für offene KI-Ressourcen, doch es wurde festgestellt, dass der gesamte Quellcode der Plattform unter keinem einheitlichen Open-Source-Lizenzmodell steht; daher kann die Plattform selbst nicht als Open-Source-Software bezeichnet werden.
• Die Modellseite kann Gewichte, Beschreibungen und Code hosten, doch die Modellgewichte, der Inferenz-Code, die Trainingsdaten, Dokumentationen und Markenzeichen können unter unterschiedlichen Lizenzen stehen.
• Der Benutzer muss über die notwendigen Rechte verfügen, bevor er Ressourcen hochlädt, und gemäß den Anforderungen des Projekts Beschreibungen, Lizenzen oder Contributor-Agreements bereitstellen.
• Das Vorhandensein von Drittanbietermodellen auf der Plattform bedeutet nicht, dass StartSmart AI zusätzliche kommerzielle Rechte gewährt, noch garantiert die Plattform die Urheberrechte an den Trainingsdaten oder die Legalität der Ergebnisse.
• Die gefundenen Repositorys mit dem gleichen Namen AgentVerse gehören möglicherweise anderen Teams; sie können nur dann als Komponenten von OriginAI angesehen werden, wenn auf der Projektseite oder in den Plattformdokumentationen eine klare Verbindung angegeben wird.

Für welche Benutzer geeignet

• Modellforscher: Suche nach Gewichten, Datensätzen, Code zur Wiederherstellung von Artikeln und Beschreibungen der Modelle.
• Anwendungsentwickler: Nutzen MaaS, um die Modell-Inferenzfähigkeiten in Websites, Dienste oder interne Tools zu integrieren.
• Algorithmus-Ingenieur: Miete von GPUs für Feinabstimmung, Bewertung, Quantifizierung, Inferenz und Image-Verifizierung.
• Open-Source-Team: Veröffentlichung von Modellen, Daten oder Code-Projekten, Pflege der Versionen und Zusammenarbeit mit der Community.
• Agent-Entwickler: Erstellen von Agenten, Anbindung an SDKs und Teilnahme an der Community-Interaktion.
• Unternehmens-Forschungs- und Entwicklerteam: Bewertung von Optionen für die Verwaltung lokaler Ressourcen, Rechenleistung sowie die Bereitstellung von Anwendungen – wobei die verfügbaren Bestände sowie die Servicequalität berücksichtigt werden müssen.

Privatsphäre, Sicherheit und Urheberrechte

• Die Plattform kann Informationen über den Browser, das Betriebssystem, die IP-Adresse, die besuchten Seiten, die Zeit der Anfragen sowie das Verhalten der Nutzer aufzeichnen; für Registrierung und Nutzung bestimmter Funktionen können Telefonnummer, E-Mail-Adresse, Benutzernamen, Profilbild usw. erforderlich sein.
• AgentVerse kümmert sich um die Namen der Agenten, Beschreibungen ihrer Fähigkeiten, Avatare, bisher veröffentlichte Inhalte sowie Interaktionsdaten und verknüpft sie mit dem Konto des Erstellers.
• Laut der Datenschutzerklärung werden die Informationen nur für die Dauer aufbewahrt, die zur Erreichung des Zwecks notwendig ist; danach werden sie gelöscht oder anonymisiert. Die Nutzer können sich einloggen, um ihre grundlegenden Daten zu verwalten, und unter bestimmten Umständen eine Löschung beantragen.
• Trainingsdaten, Prompt-Wörter, Schlüssel und Modellausgaben können personenbezogene Informationen, Geschäftsgeheimnisse oder urheberrechtlich geschützte Inhalte enthalten. Vor dem Hochladen sollten Desensibilisierungs- und Genehmigungsprüfungen durchgeführt werden.
• Die Nutzungsbedingungen legen strenge Vorgaben bezüglich des Rechts der Plattform auf die Erstellung von Inhalten fest. Bei planmäßiger kommerzieller Nutzung, Weiterverbreitung oder zur Bereitstellung an Kunden müssen zunächst die spezifischen Modelle sowie die einzelnen Dienstleistungsbedingungen überprüft werden.
• Sichere Filter für Agenten können die Trennung von Berechtigungen, die Überprüfung der Eingaben, die Zensur der Ausgaben sowie den Schlüsselwechsel nicht ersetzen. Der Ersteller bleibt weiterhin für das Verhalten des Agents verantwortlich.

Vorteile und Einschränkungen

Hauptvorteile

• Ressourcensuche, APIs, Rechenleistung, Images und Anwendungsveröffentlichung sind auf einer Plattform zusammengefasst, was die Schaffung einer vollständigen Entwicklungsworkflow erleichtert.
• MaaS und GPU-Vermietung bieten sowohl einen Online- als auch einen selbst implementierbaren Weg an, sodass Teams je nach Kosten, Kontrolle und Leistung wählen können.
• AgentVerse integriert die Veröffentlichung von Agenten sowie die Interaktion mit der Community in die Plattform und eignet sich zur Erkundung der Agent-Ökologie.

Aktuelle Einschränkungen

• Bei dieser Überprüfung waren mehrere Marktlisten leer, der Rechenkapazitätsbestand war weitgehend aufgebraucht, und die tatsächlich verfügbare Kapazität lag unter dem in der Funktionsübersicht angegebenen Wert.
• MaaS verfügt über keine derzeit verfügbaren Modelle, wodurch es nicht möglich ist, auf einer einheitlichen Seite die Preis pro Einheit, die Parallelverarbeitungskapazität, den Kontext sowie die Servicequalität der Anbieter miteinander zu vergleichen.
• Die Ressourcen der Plattform stammen von verschiedenen Anbietern, wodurch die Qualität, die Wartungshäufigkeit, die Lizenzen sowie die Sicherheit nicht einheitlich sind.
• Die Regeln für einheitliche Rückerstattungen, Entschädigungen bei Ressourcenproblemen sowie die Verarbeitung von ungenutzten Beträgen sind derzeit noch nicht öffentlich zugänglich. Vor der Bezahlung muss dies separat bestätigt werden.

Häufige Fragen

Ist Shizhi AI ein Chatbot?

Es handelt sich nicht um einen einzelnen Chatbot. Es ist eine KI-Entwicklungsplattform, die aus Modellen, Daten, Code, APIs, GPU-Rechenleistung, Images, Anwendungen sowie einer Agenten-Community besteht.

Kann man alle Modelle auf der Plattform kostenlos für kommerzielle Zwecke nutzen?

Nicht möglich. Jedes Modell, jedes Datensatz und jeder Code-Project hat seine eigenen Lizenzbedingungen. Eine öffentliche Herunterladung bedeutet nicht, dass die Nutzung kostenlos ist – außerdem gelten für Gewichte, Daten und Code nicht immer dieselben Lizenzbedingungen.

Kann die MaaS-API jetzt direkt aufgerufen werden?

Die Plattformdokumentation bietet Anleitungen zur Autorisierung, Ressourcepakete sowie zum Umgang mit API-Schlüsseln. Bei der aktuellen Überprüfung zeigt jedoch der Modellmarkt keine verfügbaren Modelle an. Es ist notwendig, sich einzuloggen, um die tatsächlich verfügbaren Modelle zu überprüfen, bevor eine Anbindung erfolgt.

Wie viel kostet die Rechenleistung einer GPU?

Die Preise pro Stunde werden je nach GPU-Modell, Anzahl der Karten sowie Ressourcenkonfiguration angegeben. Der Preis für eine einzelne Karte beginnt bei 1,88 Yuan pro Stunde. Der Bestand und die Preise ändern sich in Echtzeit; bei den meisten Konfigurationen ist derzeit alles ausverkauft.

Ist die Shizhi-AI-Plattform selbst offen zugänglich?

Derzeit wurde keine einheitliche Open-Source-Lizenz für den gesamten Quellcode der Plattform-Website gefunden. Die Bereitstellung offener Ressourcen durch die Plattform bedeutet nicht, dass der Code der Plattform-Produkte selbst open source ist.

Wie kann das Risiko der hohen Rechnkosten verringert werden?

Zunächst werden mit der minimalen Konfiguration und kurzen Aufgaben die Anforderungen an das Image, die Daten sowie den Arbeitsspeicher überprüft. Es werden Budgets festgelegt und Überwachungsfunktionen eingerichtet; nach Abschluss der Aufgabe wird die Instanz umgehend gestoppt und freigegeben.

Wer ist für das Verhalten der Agenten verantwortlich?

Die Nutzungsbedingungen legen klar fest, dass die damit verbundenen menschlichen Nutzer dafür verantwortlich sind. Die Ersteller müssen die Zugangsdaten schützen, die veröffentlichten Inhalte überprüfen, Sicherheitsfilter einrichten und Abweichungen umgehend behandeln.

Zusammenfassung

Die KI-Lösung WiseModel eignet sich für Nutzer, die offene Ressourcen, MaaS, GPU-Training sowie die Entwicklung von Images und Agenten in einem einzigen Workflow zusammenführen möchten. Vor der Nutzung ist es wichtig, den tatsächlichen Bestand, die verfügbaren Modelle, die Zahlungsbedingungen sowie die Lizenzen pro Projekt zu überprüfen – man darf nicht einfach davon ausgehen, dass die Dienste bereits verfügbar sind, nur weil sie in der Funktionsübersicht aufgeführt sind.