Tianrang Xiaobai

Qu’est-ce que Tianrang Xiaobai ?

Tianrang Xiaobai est une plateforme de développement complet pour des applications de grands modèles, lancée par Shanghai Tianrang Intelligent Technology Co., Ltd.

Les utilisateurs peuvent publier des applications Web ou les intégrer via une API en configurant de manière visuelle des modèles, des prompts, une base de connaissances et des workflows.

Fonction principale

• Créer une application d’IA générative de texte.
• Créer un robot de dialogue à plusieurs tours.
• Créer des applications de recherche de connaissances.
• Organiser des workflows d’IA à plusieurs nœuds.
• Configurer le modèle, les paramètres et les prompts.
• Téléchargez un document pour créer une base de connaissances RAG.
• Accès à des langues externes et à des modèles d’Embedding.
• Définir les règles de contexte et de mots sensibles.
• Publiez une application Web accessible d’un clic.
• Génération automatique de la documentation API de l’application.
• Vérifier la consommation des appels et les retours des utilisateurs.
• Soutien à la privatisation et à la personnalisation d’entreprise.

Quatre types d’applications

Applications de génération de texte

Les applications de génération de texte conviennent pour mapper les entrées des utilisateurs à des modèles stables, tels que des textes publicitaires, des e-mails, des rapports et des résumés d’informations.

1. Définir le contenu final à générer.
2. Séparer les variables obligatoires à remplir par l’utilisateur.
3. Rédiger des prompts pour les personnages, les tâches et le format.
4. Limite de caractères, ton et contenus interdits.
5. Choisir le modèle et les paramètres de génération appropriés.
6. Utiliser plusieurs ensembles d’exemples réels pour les tests.
7. Enregistrer les entrées infructueuses et continuer à optimiser.

Applications interactives

Les applications de dialogue prennent en charge plusieurs tours de contexte, idéales pour le service client, les assistants internes, les réponses aux questions sur les cours et les consultations commerciales.

• Définir des limites claires pour l’identité et les services.
• Contrôler la longueur des conversations historiques conservées.
• Concevoir des solutions de secours pour les questions auxquelles il est impossible de répondre.
• Marquer les problèmes à haut risque nécessitant une intervention manuelle.
• Ajouter une authentification pour les opérations sensibles.
• Ne permettez pas au modèle d’exécuter directement des actions non autorisées.

Applications de recherche

Les applications de recherche trouvent d’abord des fragments de documents pertinents, puis organisent les réponses en fonction de la requête, ce qui est adapté aux scénarios à forte intensité de connaissances.

Application de flux de travail

Un flux de travail peut combiner des entrées, des modèles, la recherche de documents, des Embedding, d’autres appels d’applications et des nœuds de sortie.

1. Dessinez les entrées métier et la sortie finale.
2. Séparer les étapes de traitement pouvant être vérifiées indépendamment.
3. Déclarer une variable d’entrée pour chaque nœud.
4. Configurer les paramètres du modèle ou des services externes.
5. Définir les chemins pour succès, échec et délai d’attente.
6. Vérifier l’entrée et la sortie nœud par nœud.
7. Utiliser des données anormales pour des tests de charge.
8. Ajouter des journaux et des alertes avant la publication.

Configuration du modèle et des paramètres

La plateforme intègre des modèles linguistiques Tianrang Xiaobai et des modèles d’Embedding de différentes versions, et permet également l’intégration de modèles externes conformes aux normes.

Développement de prompts

Les prompts prennent en charge l’insertion de texte et de variables déroulantes, ce qui permet de configurer des applications générales en outils adaptés à des activités spécifiques.

• Définir les rôles, les objectifs et le public cible.
• Fournir des descriptions de champ pour les variables d’entrée.
• Définir le format de sortie et les éléments obligatoires.
• Préciser la portée des faits qui ne peuvent être devinés.
• Fournir des exemples corrects et incorrects.
• Concevoir une réponse fixe en cas de manque d’informations.
• Enregistrer chaque modification avec un numéro de version.

Ensembles de documents et RAG

Un ensemble de documents peut transformer les informations de l’entreprise en contexte de recherche, permettant aux réponses de se baser en priorité sur des connaissances spécifiques plutôt que sur la mémoire du modèle.

1. Supprimer les fichiers dupliqués et obsolètes.
2. Ajouter des sources et une date d’entrée en vigueur au document.
3. Grouper par département, produit et autorisation.
4. Téléchargez et vérifiez les résultats de l’analyse.
5. Définir des paramètres de séparation et de rappel appropriés.
6. Tester le rappel avec des questions aux réponses connues.
7. Vérifier si la réponse permet de localiser le texte original.
8. Récréer les index correspondants après mise à jour des données.

Champs de document structuré

Pour les documents structurés, il est possible de choisir quels champs intégrer dans le contexte afin de réduire les informations non pertinentes et de contrôler la divulgation des données sensibles.

Modèles d’incorporation

Les modèles d’incorporation transforment le texte en vecteurs, ce qui peut être utilisé pour la recherche sémantique, la correspondance de similarité, les recommandations et le rappel dans des bases de connaissances.

• Utiliser un modèle correspondant à la langue principale.
• Évaluer la maîtrise des termes techniques et des abréviations.
• Comparer le rappel sémantique au rappel par mots-clés.
• Créer des ensembles de test pertinents et non pertinents.
• Enregistrer la version du modèle et la dimension du vecteur.
• Générer à nouveau l’index après avoir changé de modèle.

Connexion de modèle externe

La plateforme permet de configurer des modèles de langage externes accessibles et des services d’Embedding, et exige que les interfaces respectent les spécifications du fournisseur correspondant.

Les exemples de documents officiels comprennent des dialogues et un routage vectoriel, mais les entreprises doivent encore protéger elles-mêmes les adresses, les clés et les journaux d’appel.

Publication d’une application web

Une fois la configuration terminée, l’application peut être accessible en tant que Web App par le biais d’un lien, ce qui est idéal pour valider rapidement les processus d’utilisation internes ou externes.

1. Définir le nom de l’application et sa description d’utilisation.
2. Configurer les phrases d’introduction et les indications d’entrée.
3. Restreindre la portée des appels des utilisateurs anonymes.
4. Tester l’affichage sur mobile et sur ordinateur.
5. Ajouter des suggestions de contenu sur la vie privée et l’IA.
6. Définir les points de retour et d’assistance humaine.
7. Surveiller les requêtes anormales une fois en ligne.

API d’application

La plateforme peut générer automatiquement des documents API pour les applications créées, et enregistrer les données de appel, le volume d’utilisation ainsi que les retours des utilisateurs.

• Utiliser des clés différentes pour les environnements de test et de production.
• Conserver la clé sur le serveur.
• Définir la fréquence d’appel et le plafond de budget.
• Vérifier tous les paramètres d’entrée.
• Enregistrer l’ID de la demande plutôt que le texte sensible.
• Gérer les délais d’attente, le throttling et les tentatives de réessai en cas d’échec.
• Rotation et révocation régulières des clés.

Guide d'utilisation de Tianrang Xiaobai

1. Inscrivez-vous et accédez à la plateforme ouverte Tianrang Xiaobai.
2. Créer un espace de travail indépendant.
3. Sélectionnez Génération, Dialogue, Recherche ou Flux de travail.
4. Configurer le modèle et les paramètres de génération nécessaires.
5. Rédiger les prompts et les variables d’entrée.
6. Télécharger les documents en cas de besoin pour créer une base de connaissances.
7. Définir les champs de rappel, le contexte et les mots sensibles.
8. Exécuter le débogage à l’aide de cas réels.
9. Vérifier les réponses incorrectes et les risques de dépassement de compétences.
10. Publier une application Web ou générer une API d’application.
11. Configurer le throttling, les permissions, les journaux et la surveillance.
12. Itérer en continu en fonction de la quantité utilisée et des retours.

Prix et modalités de service

Le site officiel ne divulgue pas de prix unitaire standard pour le modèle ; les options confirmées incluent des droits gratuits partiels, un tarif selon la consommation et une personnalisation pour les entreprises.

Avant l’achat, il convient de vérifier le prix unitaire du modèle, le stockage, la concurrence en parallèle, le trafic, le support technique, les modalités de déploiement et les responsabilités liées aux données dans le contrat.

Comment choisir le mode de déploiement

Sécurité des données

Les bases de connaissances de l’entreprise, les prompts et le contenu des appels peuvent contenir des informations sensibles, qui doivent être contrôlés aux niveaux des permissions, du réseau et des journaux.

• Supprimez les informations personnelles non pertinentes avant le téléchargement.
• Isoler les différents dossiers clients par espace de travail.
• Appliquer strictement les étiquettes de droits lors de la recherche.
• La clé n’est stockée que dans le système de clés du serveur.
• Le journal évite d’enregistrer le texte sensible complet.
• Mettre en place un processus de mise à jour et de suppression de documents.
• Évaluation des solutions de privatisation pour les activités à haut risque.

Sécurité du contenu et fiabilité

Les mots sensibles et les restrictions contextuelles peuvent réduire les risques, mais ils ne garantissent pas que les réponses du modèle soient toujours correctes ou entièrement conformes.

1. Définir la portée des réponses autorisées pour l’activité.
2. Préparer un ensemble de questions de test avec des faits exacts.
3. Ajouter les tests d’induction, de dépassement de privilèges et d’injection de suggestions.
4. Vérifier s’il faut refuser de répondre en cas de données insuffisantes.
5. La conclusion de haut risque nécessite une confirmation manuelle.
6. Surveiller les retours des utilisateurs et les sorties anormales.
7. Relancez les tests de régression après mise à jour de la stratégie.

API et open source

Tianrang Xiaobai fournit des API d’application et des spécifications pour l’intégration de modèles externes, mais la plateforme elle-même n’a pas été déclarée open source.

À qui s’adresse-t-il

• Équipes de produits qui ont besoin de valider rapidement des applications d’IA.
• Équipe opérationnelle et IT chargée de mettre en place une base de connaissances entreprise.
• Développeurs qui intègrent des capacités d’IA via une API.
• Équipes d’automatisation nécessitant l’orchestration de workflows.
• Utilisateurs d’entreprise disposant de leurs propres modèles.
• Institutions de secteurs sensibles nécessitant un déploiement privatisé.

Avantages du produit

• Four types d’applications sont proposés en même temps.
• Prend en charge deux modes de publication : les applications Web et les API.
• Intégration de RAG, d’Embedding et de workflows.
• Il est possible de se connecter à des modèles linguistiques externes.
• Fournit un contrôle des mots sensibles et du contexte.
• Suivi de la consommation et enregistrement des retours des utilisateurs.
• Vous pouvez demander des informations sur la privatisation et les services sur mesure.

Restrictions d'utilisation

• Le site officiel ne divulgue pas un prix unitaire uniforme pour le modèle.
• La sortie du modèle peut encore produire des hallucinations.
• La qualité de la base de connaissances détermine la limite supérieure des réponses.
• Les flux de travail complexes nécessitent de tester les chemins d’exception.
• Le modèle externe est affecté par la stabilité d’un tiers.
• La privatisation et la personnalisation doivent être évaluées séparément.
• La plateforme elle-même n’a pas confirmé être open source.

Questions fréquentes

Que peut faire principalement Tianrang Xiaobai ?

Il permet de créer des applications de génération de texte, de dialogue, de recherche et de flux de travail, et prend en charge les bases de connaissances RAG, la publication d’applications Web et l’intégration API.

Peut-on utiliser Tianrang Xiaobai sans savoir programmer ?

Oui, la plateforme permet de créer des applications à l’aide de modèles, de prompts, de collections de documents et de configurations de nœuds ; le prototype de base ne nécessite pas d’écrire du code complet.

Quels modèles Tianrang Xiaobai prend-il en charge ?

La plateforme intègre le langage Tianrang Xiaobai ainsi que des modèles d’Embedding, et prend également en charge l’intégration de modèles linguistiques externes et de modèles vectoriels conformes aux normes.

Peut Tianrang Xiaobai créer une base de connaissances d’entreprise ?

Oui, les utilisateurs peuvent télécharger des ensembles de documents et, grâce aux embeddings et à la recherche, créer des applications de questions-réponses basées sur les données de l’entreprise.

Comment Tianrang Xiaobai facture-t-il ?

Les utilisateurs initiaux peuvent utiliser gratuitement certaines fonctionnalités ; l’API est facturée en fonction de l’utilisation, et pour les services privatisés et sur mesure, il est nécessaire de contacter le service client pour obtenir un devis.

Tianrang Xiaobai propose-t-il une API ?

Après la création de l’application, des documents API sont générés automatiquement, il est possible de consulter les données d’utilisation et les retours, et l’application peut également être publiée en tant que Web App.

Tianrang Xiaobai est-il une plateforme open source ?

Non, bien qu’il existe des API et des spécifications d’intégration de modèles, aucun répertoire open source vérifiable ou licence open source propre à la plateforme n’a été trouvé pour l’instant.