Himmlisch und irdisch – klein und zart

Was ist Tianrang Xiaobai?

Tianrang Xiaobai ist eine Plattform für die vollständige Entwicklung von großen Modellanwendungen, die von der Shanghai Tianrang Intelligent Technology Co., Ltd. entwickelt wurde.

Benutzer können über visuell konfigurierte Modelle, Prompte, Wissensdatenbanken und Workflows Webanwendungen veröffentlichen oder über APIs integrieren.

Hauptfunktionen

• Erstellung einer textgenerierenden KI-Anwendung.
• Erstellung eines Mehrrunden-Dialog-Roboters.
• Erstellung von Anwendungen zur Wissenssuche.
• Organisieren von mehrknotigen AI-Werkflüssen.
• Konfigurieren von Modellen, Parametern und Prompten.
• Dokumente hochladen, um eine RAG-Wissensdatenbank zu erstellen.
• Anbindung an externe Sprachen und Embedding-Modelle.
• Einstellen von Kontext- und Senswortschutzregeln.
• Einfache Veröffentlichung einer zugänglichen Web-App.
• Automatische Erstellung von Anwendungs-API-Dokumentation.
• Überprüfen Sie die Aufrufzahlen und die Nutzerfeedbacks.
• Unterstützung der Privatisierung und Unternehmensanpassung.

Vier Anwendungsarten

Textgenerierende Anwendungen

Textgenerierende Anwendungen eignen sich dazu, Benutzereingaben in stabile Vorlagen umzuwandeln, wie z. B. Produktbeschreibungen, E-Mails, Berichte und Informationszusammenfassungen.

1. Definieren Sie den Inhalt, der letztendlich erzeugt werden soll.
2. Trennen Sie die Variablen, die vom Benutzer ausgefüllt werden müssen.
3. Erstellen Sie Rollen-, Aufgaben- und Format-Hinweise.
4. Zeichenzahlbeschränkung, Tonfall und verbotene Inhalte.
5. Wählen Sie das geeignete Modell und die Generierungsparameter aus.
6. Verwenden Sie mehrere Gruppen echter Beispiele zur Tests.
7. Fehlerhafte Eingaben aufzeichnen und kontinuierlich optimieren.

Dialogbasierte Anwendungen

Dialog-Apps unterstützen mehrere Kontexte und eignen sich für Kundenservice, interne Assistenten, Fragen zu Kursen sowie Geschäftsberatung.

• Definieren Sie klare Grenzen für Identität und Dienstleistungen.
• Steuerung der Länge der gespeicherten Historiegespräche.
• Für Fragen, auf die keine Antwort möglich ist, werden Notlösungen entwickelt.
• Markieren Sie die hochriskanten Probleme, die manuell bearbeitet werden müssen.
• Für sensible Operationen wird eine Authentifizierung hinzugefügt.
• Lassen Sie nicht zu, dass das Modell unbefugte Aktionen direkt ausführt.

Suchanwendungen

Suchanwendungen suchen zunächst nach relevanten Dokumententeilen und strukturieren die Antworten anhand der Abfrage – sie eignen sich für kennzeichenreiche Szenarien.

Workflow-Anwendungen

Ein Workflow kann Eingaben, Modelle, die Suche nach Dokumenten, Embeddings, Aufrufe anderer Anwendungen sowie Ausgabepunkte miteinander verbinden.

1. Zeichnen Sie die Eingaben und die endgültigen Ausgaben des Geschäftsprozesses.
2. Trennen Sie die verarbeitenden Schritte, die unabhängig voneinander überprüft werden können.
3. Deklarieren Sie für jeden Knoten Eingabevariablen.
4. Konfiguration von Modell- oder externen Service-Parametern.
5. Einstellen von Erfolgs-, Fehler- und Timeout-Pfaden.
6. Überprüfen Sie Eingang und Ausgang Knotfor Knoten.
7. Nutzen Sie abweichende Daten für Stresstests.
8. Fügen Sie vor der Veröffentlichung Protokolle und Warnungen hinzu.

Modell und Parameterkonfiguration

Die Plattform verfügt über verschiedene Versionen der Tianrang Xiaobai-Sprachmodelle sowie Embedding-Modelle und kann auch externe Modelle, die den Vorgaben entsprechen, anbinden.

Entwicklung von Prompten

Die Hinweistexte ermöglichen das Einfügen von Texten sowie von Dropdown-Optionen, wodurch allgemeine Anwendungen in Tools für spezifische Geschäftsprozesse umgewandelt werden können.

• Definieren Sie Rollen, Ziele und Zielgruppen.
• Bereitstellung von Feldbeschreibungen für die Eingabevariablen.
• Legen Sie das Ausgabeformat und die Pflichtangaben fest.
• Geben Sie den Umfang der Fakten an, über die nicht geraten werden darf.
• Bieten Sie Beispiele für richtig und falsch.
• Feste Antworten für unvollständige Informationen entwerfen.
• Jede Änderung wird mit einer Versionsnummer dokumentiert.

Dokumentensammlungen und RAG

Eine Dokumentensammlung kann Unternehmensdaten in einen Suchkontext umwandeln, wodurch Antworten vorrangig auf den angegebenen Kenntnissen statt auf dem Modellgedächtnis basieren.

1. Entfernen Sie duplizierte und ungültige Dateien.
2. Fügen Sie der Dokumentation Quellen sowie das Inkrafttrittsdatum hinzu.
3. Gruppieren nach Abteilung, Produkt und Berechtigungen.
4. Laden Sie hoch und überprüfen Sie die Analyseergebnisse.
5. Setzen Sie angemessene Parameter für die Teilung und das Zurückrufen.
6. Testen Sie die Recall-Fähigkeit mit Fragen mit bekannten Antworten.
7. Überprüfen, ob die Antwort auf den Originaltext verweisen kann.
8. Nach der Aktualisierung der Daten werden die entsprechenden Indizes neu erstellt.

Strukturierte Dokumentfelder

Für strukturierte Dokumente kann man auswählen, welche Felder im Kontext berücksichtigt werden, um irrelevante Informationen zu reduzieren und die Offenlegung sensibler Daten zu kontrollieren.

Embedding-Modelle

Embedding-Modelle wandeln Texte in Vektoren um, die für semantische Suche, Ähnlichkeitsvergleich, Empfehlungen und das Abrufen aus Wissensdatenbanken verwendet werden können.

• Verwenden Sie Modelle, die zur Hauptsprache passen.
• Testen Sie die Leistung bei Fachbegriffen und Abkürzungen.
• Vergleich von semantischer und Schlüsselwort-Rückholung.
• Erstellen von relevanten und irrelevanten Testdatensätzen.
• Protokollieren Sie die Modellversion und die Vektordimension.
• Erstelle nach dem Austausch des Modells den Index neu.

Anbindung externer Modelle

Die Plattform ermöglicht die Konfiguration zugänglicher externer Sprachmodelle und Embedding-Dienste und verlangt, dass die Schnittstellen den entsprechenden Spezifikationen des Anbieters entsprechen.

Beispiele für offizielle Dokumente enthalten Dialoge und Vektor-Routing, doch Unternehmen müssen weiterhin Adressen, Schlüssel und Aufrufprotokolle selbst schützen.

Veröffentlichung der Web-App

Nach der Konfiguration kann die Anwendung über einen Link als Web-App aufgerufen werden, was eine schnelle Überprüfung der internen oder externen Nutzung ermöglicht.

1. Geben Sie den Namen der Anwendung sowie eine Beschreibung ihrer Verwendung an.
2. Konfigurieren von Einstiegsworten und Eingabehinweisen.
3. Beschränken Sie den Aufrufbereich für anonyme Benutzer.
4. Testen Sie die Anzeige auf Mobil- und Desktop-Systemen.
5. Hinzufügen von Hinweisen zu Privatsphäre und KI-Inhalten.
6. Einstellen von Feedback- und Kundenservice-Kanälen.
7. Überwachen von abnormen Anfragen nach dem Go-Live.

API anwenden

Die Plattform kann automatisch API-Dokumentation für erstellte Anwendungen erzeugen und Aufrufdaten, Nutzungsmengen sowie Nutzerfeedback aufzeichnen.

• Für Test- und Produktionsumgebungen werden unterschiedliche Schlüssel verwendet.
• Speichern Sie den Schlüssel auf der Serverseite.
• Legen Sie die Aufrufhäufigkeit und die Obergrenze für das Budget fest.
• Überprüfen Sie alle Eingabeparameter.
• Erhalten Sie die Anfragen-ID statt des sensiblen Inhalts.
• Umgang mit Zeitüberschreitungen, Bandbreitenbeschränkungen und Wiederholungsversuchen bei Fehlern.
• Regelmäßige Rotation und Entfernung von Schlüsseln.

Anleitung für Tianrang Xiaobai

1. Registrieren Sie sich und gelangen Sie auf die Tianrang Xiaobai-Offenplattform.
2. Erstellen Sie einen eigenen Arbeitsraum.
3. Wählen Sie Erstellen, Dialog, Suchen oder Workflow aus.
4. Konfiguration des Modells und der notwendigen Erstellungsparameter.
5. Erstellen Sie Prompt-Sätze und Eingabevariablen.
6. Wenn nötig, werden Dokumente hochgeladen, um eine Wissensdatenbank zu erstellen.
7. Konfigurieren Sie die Rückruffelder, den Kontext und die sensiblen Wörter.
8. Führen Sie die Debugging-Aktion mit echten Fällen durch.
9. Überprüfen Sie falsche Antworten und Risiken von Überschreitung der Befugnisse.
10. Einen Web-App veröffentlichen oder eine Anwendungs-API erstellen.
11. Konfigurieren von Limitierungen, Berechtigungen, Protokollierung und Überwachung.
12. Durch kontinuierliche Iterationen auf Grundlage der Menge und der Rückmeldungen.

Preise und Serviceleistungen

Die offizielle Website gibt keinen einheitlichen Preis für das Modell an. Die bekannten Optionen sind kostenlose Zugriffsrechte, Abrechnung nach Verbrauch sowie maßgeschneiderte Lösungen für Unternehmen.

Vor dem Kauf sollten Preis pro Modell, Speicherung, Konkurrenzfähigkeit, Datenverkehr, technischer Support, Deployment-Methode sowie die datenschutzrelevanten Bestimmungen im Vertrag überprüft werden.

Wie wählt man die Art der Bereitstellung aus?

Daten-Sicherheit

Unternehmenswissensdatenbanken, Anweisungen und Aufrufinhalte können sensible Informationen enthalten und sollten auf Ebene der Berechtigungen, des Netzwerks sowie der Protokolle kontrolliert werden.

• Löschen Sie vor dem Hochladen uner relevante persönliche Informationen.
• Trennen Sie die Daten verschiedener Kunden nach Arbeitsbereichen.
• Bei der Suche wird das Berechtigungslabel strikt durchgesetzt.
• Der Schlüssel wird nur im Schlüsselsystem auf der Serverseite gespeichert.
• Die Protokolle sollen keinen vollständigen, sensiblen Inhalt aufzeichnen.
• Etablieren Sie Prozesse für die Aktualisierung und Löschung von Dokumenten.
• Bewertung von Privatisierungsplänen für hochriskante Geschäfte.

Inhaltssicherheit und Zuverlässigkeit

Sensible Wörter und Kontextbeschränkungen können das Risiko verringern, garantieren jedoch nicht, dass die Antworten des Modells stets korrekt oder vollständig konform sind.

1. Die Einrichtung des Geschäfts definiert den Umfang der beantwortbaren Fragen.
2. Erstellen Sie eine Testfragenliste mit korrekten Fakten.
3. Fügen Sie Tests für Induktion, Überschreitung von Befugnissen und Hinweiseintragung hinzu.
4. Prüfen, ob bei unzureichenden Unterlagen eine Ablehnung erfolgt.
5. Faziten mit hohem Risiko erfordern eine manuelle Überprüfung.
6. Überwachen von Benutzerfeedback und abweichenden Ausgaben.
7. Nach dem Aktualisieren der Strategie die Regressionstests erneut ausführen.

API und Open Source

Tianrang Xiaobai stellt API für Anwendungen sowie Richtlinien für die Anbindung externer Modelle bereit, doch die Plattform selbst ist nicht als Open Source deklariert.

Für welche Benutzer geeignet

• Produktteams, die KI-Anwendungen schnell überprüfen müssen.
• Betriebs- und IT-Team zur Einrichtung einer Unternehmens-Wissensdatenbank.
• Entwickler, die KI-Fähigkeiten über API-Integration einbinden.
• Automatisierte Teams, die Workflow-Orchestrierung benötigen.
• Unternehmenskunden mit eigenen Modellen.
• Sensible Branchenorganisationen, die eine Privatisierung erfordern.

Vorteile des Produkts

• Gleichzeitig werden vier Anwendungsarten angeboten.
• Es werden beide Veröffentlichungsweisen unterstützt: Web-App und API.
• Integration von RAG, Embedding und Workflows.
• Es ist möglich, externe Sprachmodelle anzuschließen.
• Einsatz von Sensorterminen und Kontrolle im Kontext.
• Unterstützung für Verbrauchsmengen und Benutzerfeedback-Protokolle.
• Für Informationen zu Privatisierungs- und maßgeschneiderten Dienstleistungen können Sie sich erkundigen.

Nutzungsbeschränkungen

• Die offizielle Website gibt keinen einheitlichen Preis pro Modell an.
• Die Modellausgabe kann weiterhin Halluzinationen erzeugen.
• Die Qualität der Wissensdatenbank bestimmt die Obergrenze für die Antworten.
• Komplexe Workflows erfordern das Testen von Abweichungspfaden.
• Externe Modelle werden von der Stabilität Dritter beeinflusst.
• Privatisierung und Anpassung müssen gesondert bewertet werden.
• Die Plattform selbst hat ihre Open-Source-Zugehörigkeit nicht bestätigt.

Häufige Fragen

Was kann Tianrang Xiaobai hauptsächlich tun?

Es kann Anwendungen für Textgenerierung, Dialoge, Suchfunktionen und Workflows erstellen und unterstützt RAG-Wissensdatenbanken, die Veröffentlichung von Web-Anwendungen sowie API-Integrationen.

Kann man Tianrang Xiaobai ohne Programmierkenntnisse verwenden?

Ja, die Plattform ermöglicht es, Anwendungen mithilfe von Modellen, Prompten, Dokumentensammlungen und Knotenkonfigurationen zu erstellen; für das grundlegende Prototypen-Design ist es nicht notwendig, vollständigen Code zu schreiben.

Welche Modelle werden von Tianrang Xiaobai unterstützt?

Die Plattform verfügt über die eingebauten Sprachen Tianrang Xiaobai sowie Embedding-Modelle und unterstützt außerdem die Anbindung von externen Sprachmodellen und Vektormodellen, die den geltenden Standards entsprechen.

Kann Tianrang Xiaobai eine Unternehmenswissensdatenbank erstellen?

Ja, Benutzer können Dokumentensammlungen hochladen, um mithilfe von Embedding und Suchfunktionen Anwendungen zur Erstellung von Fragen und Antworten auf der Grundlage von Unternehmensdaten zu entwickeln.

Wie viel kostet Tianrang Xiaobai?

Erste Nutzer können einige Funktionen kostenlos nutzen. Die API wird nach dem Verbrauch abgerechnet. Für private sowie maßgeschneiderte Dienstleistungen ist es notwendig, sich an die offiziellen Stellen zu wenden, um einen Kostenvoranschlag zu erhalten.

Bietet Tianrang Xiaobai eine API an?

Nach der Erstellung der Anwendung werden automatisch API-Dokumentationen generiert, es ist möglich, die Aufrufzahlen sowie Rückmeldungen anzusehen, und die Anwendung kann auch als Web-App veröffentlicht werden.

Ist Tianrang Xiaobai eine Open-Source-Plattform?

Nein, obwohl es API- und Modellanschlussvorgaben gibt, existiert derzeit weder ein überprüfbares Open-Source-Repositorium noch eine Open-Source-Lizenz für die Plattform selbst.