AnythingLLM

Qu’est-ce que AnythingLLM ?

AnythingLLM est un assistant IA, une base de connaissances documentaire et une plateforme d’agents gratuits et open source, développé par Mintplex Labs. Il permet de regrouper des documents tels que des PDF, Word, du texte ou des pages web dans un espace de travail, d’améliorer la génération de réponses grâce à la recherche RAG, et peut également se connecter à de grands modèles locaux ou cloud, à des bases de données vectorielles, à des embeddings, à des services de reconnaissance vocale et de recherche, afin d’exécuter des appels d’outils et des processus automatisés.

AnythingLLM se distingue par le fait qu’il regroupe le modèle, les documents, la recherche vectorielle, le dialogue, l’agent et la gestion des droits dans une seule interface. Les utilisateurs individuels peuvent installer la version desktop pour créer une base de connaissances locale sur leur ordinateur ;

L’équipe peut déployer une version Docker sur un serveur pour créer des espaces de travail multi-utilisateurs ; ceux qui ne souhaitent pas gérer de serveur peuvent également choisir l’hébergement cloud officiel.

L’entité logicielle est open source et évolue sous la licence MIT, mais les modèles, API, hébergements cloud et services tiers intégrés peuvent engendrer des frais supplémentaires.

Fonctionnalités clés d’AnythingLLM

Questions-réponses sur les documents et base de connaissances RAG

Les utilisateurs peuvent télécharger des documents dans l’espace de travail ; le système analyse le texte, le divise en blocs, génère des embeddings et les enregistre dans une base de données vectorielle. Lorsqu’une question est posée, AnythingLLM recherche d’abord les fragments pertinents, puis les transmet au modèle pour qu’il génère une réponse.

Différents projets peuvent disposer de zones de travail indépendantes, avec des paramètres personnalisables tels que les prompts, les modèles, la température, le mode de dialogue et les documents disponibles, ce qui convient aux bases de données personnelles, aux manuels de produits, aux matériaux pédagogiques, aux règlements internes et au support client.

La base de données vectorielle par défaut est LanceDB locale, les index et les données d’embedding sont stockés dans l’instance actuelle, et il est également possible de se connecter à des bases de données vectorielles externes. La base de données vectorielle fait l’objet d’une configuration au niveau du système et n’est pas choisie séparément pour chaque espace de travail.

Après le changement de base de données, il est généralement nécessaire d’incorporer à nouveau les documents ; par conséquent, avant la migration, il convient de faire une sauvegarde du répertoire de stockage et de prévoir du temps pour reconstruire les index.

Modèles locaux et modèles cloud

AnythingLLM peut se connecter à des modèles locaux tels que Ollama et LM Studio, et prend également en charge diverses API de modèles commerciaux ainsi que des interfaces compatibles avec OpenAI. Lorsque l’on utilise exclusivement des modèles locaux, des embeddings locaux et des bases de vecteurs locales, les documents, les vecteurs et le processus de raisonnement principal peuvent rester sur son propre appareil ou serveur.

Dès que les modèles cloud, la recherche en ligne, l’MCP externe ou les services de voix tiers sont activés, les prompts et les données correspondants sont transmis au prestataire concerné.

La fonction de routage des modèles permet d’affecter les tâches entre les modèles locaux et ceux dans le cloud selon des règles prédéfinies ; par exemple, les questions-réponses simples sont confiées à des modèles locaux peu coûteux, tandis que les raisonnements complexes sont attribués à des modèles cloud plus puissants. Le routage ne garantit pas automatiquement la qualité ou la confidentialité ; l’opérateur doit encore déterminer quels données peuvent quitter le réseau privé et tester les capacités de contexte, d’appel d’outils et de sortie structurée de chaque modèle.

AI Agent et Agent Flows

L’agent intégré peut utiliser des outils tels que la recherche sur le web, la recherche de documents, SQL, les fichiers et des compétences personnalisées. Agent Flows combine de manière visuelle des déclencheurs, des modèles, des outils et des branches conditionnelles pour créer des recherches répétitives, du tri de données et des processus métier.

Les tâches planifiées peuvent également exécuter des processus d’agent selon un calendrier, enregistrer l’historique des exécutions et envoyer des notifications.

Lorsque l’agent dispose de droits équivalents à ceux d’un outil réel, des risques d’erreurs de manipulation, d’injection de prompts et de fuites de données existent. Il est recommandé d’utiliser des identifiants à faibles privilèges, de limiter l’accès au réseau et aux fichiers, d’exiger une confirmation manuelle pour les actions à haut risque telles que l’envoi d’e-mails, la modification de bases de données ou la suppression de fichiers, tout en conservant des journaux d’activité et en définissant un plafond de tentatives de réessai en cas d’échec.

Extension d’outil MCP

AnythingLLM prend en charge l’accès à des fichiers, des navigateurs, des bases de données et d’autres outils via MCP. L’installation desktop doit préalablement installer les dépendances du service MCP correspondant, telles que Node, npx, uv ou uvx, et s’assurer que ces commandes sont présentes dans le PATH système.

La version Docker peut également configurer un service MCP, mais il est nécessaire de placer correctement la configuration et les dépendances dans le conteneur ou dans un stockage persistant.

La documentation officielle précise que MCP peut être utilisé avec la version desktop et la version Docker auto-hébergée ; le cloud hébergé par les services officiels ne propose pas cette fonctionnalité pour le moment. Avant d’installer un MCP tiers, il convient de vérifier l’origine du code, les permissions et les variables d’environnement, et de ne pas insérer directement des clés de production dans des fichiers de configuration partageables.

Assistant de bureau et intégration d’applications

L’assistant de bureau peut appeler l’IA depuis le système d’exploitation via une fenêtre flottante, et utiliser le contexte des applications actuellement ouvertes pour faciliter la formulation des questions. Le produit offre également des intégrations avec des applications telles que Gmail, Outlook et Google Calendar, permettant à l’agent de lire ou de traiter des données autorisées.

La portée réelle de ces fonctionnalités dépend de la version, des autorisations du compte et de la région de service ; lorsqu’il s’agit de boîtes aux lettres ou de calendriers, il convient d’utiliser les autorisations minimales et de résilier périodiquement les connexions qui ne sont plus nécessaires.

Plusieurs utilisateurs, permissions et composants intégrés

La version Docker prend en charge les modes utilisateur unique et multi-utilisateurs. L’administrateur peut créer des membres, assigner des rôles, partager des espaces de travail et des documents, ainsi que d’incorporer un composant de chat sur le site web. Si le composant de chat public n’est pas configuré avec une liste blanche de sources, il peut permettre des appels depuis n’importe quelle source.

Lors du déploiement sur le réseau public, il convient d’activer une liste blanche stricte, une authentification, des restrictions de fréquence d’accès et des stratégies de sécurité pour le proxy inversé.

Comparaison des versions et des prix d’AnythingLLM

La version desktop d’AnythingLLM ainsi que la version auto-hébergée avec Docker sont disponibles gratuitement. Le service cloud officiel est un service hébergé ; les forfaits, capacités et prix peuvent varier, il convient de se référer à la page de abonnement ou de facturation de son compte.

Le fait que ce soit gratuit localement ne signifie pas qu’il n’y a pas de coûts : les équipements, les serveurs, l’électricité, le stockage, les sauvegardes ainsi que les API des modèles externes doivent tous être pris en compte séparément.

Comparaison des méthodes de déploiement des modèles et des données

Tutoriel de déploiement Docker pour AnythingLLM

1. Préparer l’environnement :Installez Docker sur le serveur et assurez-vous que le disque, la mémoire, les ports et le nom de domaine répondent aux besoins du nombre d’utilisateurs et de la taille des modèles.
2. Créer un répertoire persistant :Mappage du répertoire du hôte vers un chemin de stockage à l’intérieur du conteneur. Si les volumes persistants ne sont pas montés correctement, les espaces de travail, les documents et les paramètres pourraient être perdus après la suppression ou la reconstruction du conteneur.
3. Démarrer le conteneur :Configurez les ports de service selon l’image officielle ; la première fois, vous pourrez accéder à la page d’initialisation depuis le port local. Les serveurs en réseau public ne doivent pas exposer directement des ports non authentifiés.
4. Sélection du modèle et des Embeddings :Connectez Ollama local, des interfaces compatibles ou une API cloud, et configurez respectivement les modèles de chat, les embeddings et la base de données vectorielle.
5. Créer un espace de travail :Créer un projet, définir les prompts système et les paramètres de recherche, puis télécharger un petit nombre de documents de test pour vérifier la qualité de l’analyse, des citations et des réponses en chinois.
6. Configurer les droits d’utilisateur :Lors de l’utilisation en équipe, le mode multi-utilisateurs est activé pour distinguer les administrateurs des membres ordinaires, et seules les zones de travail nécessaires sont partagées.
7. Ajouter une couche de sécurité :Configurer HTTPS, le proxy inversé, des mots de passe forts, une liste blanche des sources, des restrictions d’accès et un pare-feu ; utiliser des variables d’environnement ou un service de gestion de clés pour les clés.
8. Sauvegarde et surveillance :Faire des sauvegardes régulières des dossiers persistants et des bases de données externes, en enregistrant les coûts des modèles, l’augmentation de l’espace disque, les tâches échouées ainsi que les appels à l’outil Agent.

Guide d’utilisation d’AnythingLLM

Créer des flux de travail professionnels réutilisables

1. Découper les sujets complexes en quatre catégories de questions : contexte, données, comparaisons et conclusions ;
2. Les questions-réponses sur des documents combinés avec la base de connaissances RAG, les modèles locaux et ceux en cloud, ainsi que les AI Agents et Agent Flows forment des étapes de recherche fixes ;
3. Privilégier les sites officiels, les articles scientifiques, les documents réglementaires et les données brutes ;
4. Mettre en place une vérification par une deuxième personne pour les conclusions à haut risque ;
5. Conserver les requêtes, les preuves, les versions et les problèmes non résolus ;
6. Redémarrer après modification des données et mettre à jour les conclusions ;

À quels utilisateurs convient AnythingLLM ?

• Utilisateurs qui souhaitent créer une base de connaissances documentaire personnelle sur ordinateur et traiter les données autant que possible localement ;
• Équipes nécessitant des FAQ internes pour les systèmes d’entreprise, les manuels de produits ou les documents de projet ;
• Techniciens souhaitant déployer en interne RAG et des assistants IA multi-utilisateurs via Docker ;
• Utilisateurs d’IA qui doivent connecter divers modèles locaux et cloud, et changer de modèle en fonction des tâches ;
• Développeurs qui prévoient d’utiliser Agent Flows, MCP et des tâches planifiées pour créer des processus automatisés.

Avantages et limites d'utilisation

• Les avantages d’AnythingLLM sont son open source gratuit, ses nombreuses options de déploiement, son interface complète, ainsi que sa prise en charge simultanée du RAG documentaire, de multiples modèles, d’agents, de workflows et des permissions par équipe.
• La version desktop abaisse les barrières à l’accès à la base de connaissances locale, tandis que la version Docker facilite le contrôle de l’emplacement des données et de l’infrastructure ;
• Cela ne rend pas RAG automatiquement précis ;
• L’analyse des scans, la structure des tableaux, la méthode de segmentation, les modèles d’embedding, le nombre de résultats de recherche et la qualité des données originales influencent toutes les réponses ;
• Les conclusions clés doivent toujours être vérifiées dans le texte original ;
• L’autogestion ne signifie pas non plus une sécurité automatique : l’administrateur est responsable des mises à jour, des sauvegardes, de l’authentification, de l’isolement réseau et de la protection des clés.
• Le contenu généré par le modèle peut contenir des erreurs ; les opérations médicales, juridiques, financières et de production ne doivent pas être exécutées directement en l’absence de vérification humaine.

Questions fréquentes

AnythingLLM est-il gratuit ?

Les versions desktop et Docker auto-hébergée sont gratuites et open source. Le déploiement personnel entraîne des coûts en matériel ou en serveurs cloud, et des tiers peuvent également facturer pour l’intégration de modèles commerciaux, de fonctionnalités de recherche, de reconnaissance vocale ou de bases de données externes.

L’hébergement cloud officiel est facturé selon la page de abonnement.

AnyThingLLM peut-il être utilisé entièrement hors ligne ?

Oui. En choisissant un modèle local, des embeddings locaux et une base de données vectorielle locale, et en téléchargeant à l’avance les composants nécessaires, il est possible de répondre aux questions sur les documents principaux en l’absence de connexion réseau.

Les modèles cloud, la recherche sur le web et les fonctionnalités MCP externes nécessitent toujours une connexion Internet.

Comment choisir entre la version desktop et la version Docker

Pour un usage personnel sur un seul ordinateur, la version desktop est préférable ; en cas de besoin d’accès à distance, de plusieurs utilisateurs, de gestion des droits, d’incorporation dans un site web ou de déploiement sur un serveur unique, choisissez la version Docker.

AnythingLLM prend-il en charge MCP ?

Les versions desktop et Docker auto-hébergées prennent en charge MCP, mais il est nécessaire d’installer l’environnement de exécution correspondant et de configurer le service. Le cloud hébergé officiel ne prend pas actuellement en charge MCP.

AnythingLLM est-il open source ?

Open source : le dépôt principal officiel est soumis à la licence MIT. Les poids des modèles intégrés, les API tierces, les bases de données et les services MCP restent soumis à leurs licences et conditions d’utilisation respectives.