LM-Kit

Qu’est-ce que LM-Kit ?

LM-Kit est une plateforme d’IA privée permettant de traiter des documents, du savoir et des tâches d’agents au sein de l’infrastructure propre de l’utilisateur. Ses formes principales comprennent LM-Kit.NET, qui peut être intégré dans des applications .NET, et LM-Kit One, qui peut être déployé de manière indépendante.

Il résout principalement le problème du transfert de documents sensibles tels que les contrats, les factures, les demandes de remboursement, les politiques et les dossiers RH vers le cloud public, tout en permettant aux champs structurés d’indiquer un niveau de confiance, ainsi qu’aux questions-réponses d’inclure des numéros de page et des extraits du texte original.

Deux formes de produit

Le LM-Kit One est actuellement en version Business Preview ; les interfaces peuvent changer pendant cette période de bêta-test, et une version à support à long terme sera proposée après la sortie officielle.

Fonction principale

Analyse de documents et extraction structurée

• Lire des PDF, DOCX, PPTX, XLSX, EML, HTML, des images et des scans, en choisissant le chemin entre l’extraction de texte natif et l’OCR visuel par page.
• Retourne du JSON analysable selon une structure définie par l’utilisateur, chaque champ étant accompagné d’un niveau de confiance et d’une marque de vérification manuelle, idéal pour l’extraction d’factures, de contrats, de formulaires et de documents.
• Identifier les limites des documents dans les PDF longs et les diviser automatiquement ; il est également possible de les fusionner, de les rechercher, de les rendre, de les déverrouiller, de remplir des formulaires et de les convertir en format PDF/A.
• Détecter les informations personnelles dans les textes, les images et les documents Office, puis procéder à un masquage permanent après confirmation par l’éditeur, plutôt que de se contenter d’un masquage visuel.

RAG, recherche et Q&A vérifiable

• Créer un ensemble de documents regroupant des politiques, des manuels, des contrats et une wiki interne, afin de prendre en charge la recherche et le réarrangement sur tout le texte, ainsi que la recherche vectorielle et mixte.
• La réponse doit retourner en même temps le document, le numéro de page et les extraits du texte original qui soutiennent cette conclusion ; si le document ne fournit pas de réponse, il faut indiquer explicitement qu’il n’y a pas de base pour cette conclusion.
• Le stockage intégré peut être utilisé directement, ou on peut le connecter à Qdrant ou PostgreSQL pgvector, en remplaçant l’implémentation via une interface de stockage vectoriel unifiée.

Agents intelligents, multimodaux et modèles locaux

• L’agent prend en charge ReAct, l’exécution après planification, le parallélisme, les pipelines, les superviseurs et l’orchestration graphique ; les appels d’outils peuvent être configurés avec des permissions, des interdictions, des niveaux de risque et des points de validation.
• Prend en charge la génération de texte, la compréhension d’images, l’OCR, l’incorporation, le classement, la reconnaissance d’entités, l’analyse émotionnelle et la transcription vocale locale de la série Whisper.
• Il est possible de télécharger des modèles à poids ouverts depuis la carte de modèle de curation, ou d’importer ses propres fichiers GGUF ; il prend également en charge le fine-tuning LoRA, la quantification, la séparation sur plusieurs GPU et le chargement de modèles chiffrés.
• Le modèle peut fonctionner sur CPU, AVX2, CUDA 12/13, Vulkan ou Metal, et est compatible avec Windows 10 et versions ultérieures, Linux x64 et ARM64, ainsi que macOS.

Tutoriel d'utilisation

1. Selon l’architecture, choisissez d’intégrer LM-Kit.NET dans une application .NET, ou de déployer LM-Kit One en tant que service privé partagé.
2. Évaluez le système d’exploitation, la CPU, la mémoire et la GPU, en commençant par des modèles plus petits qui peuvent fonctionner de manière stable sur le matériel cible.
3. LM-Kit.NET installe le paquet principal ainsi que les paquets d’accélération optionnels adaptés au matériel via NuGet, et initialise le runtime une seule fois au démarrage de l’application.
4. Définir la structure d’extraction, les seuils de vérification manuelle, la base de recherche, les modèles, les permissions des outils et les stratégies d’accès au réseau externe pour le flux de documents.
5. Valider les champs extraits, l’OCR, les citations de questions-réponses, les appels d’outils, les plans de secours en cas d’échec et les limites des données sensibles à l’aide d’un ensemble de test fixe avant de le mettre en ligne.
6. Environnement de production : enregistrer les modèles, les suggestions, les versions de structure, les traces des requêtes et les approbations manuelles, puis effectuer des tests de régression conformément aux instructions de publication.

Prix et licence

Les conditions pour une utilisation commerciale gratuite exigent que le chiffre d’affaires annuel de l’entreprise soit inférieur à 1 million de dollars, qu’elle ne compte pas plus de 10 employés et que son financement externe ne dépasse pas 3 millions de dollars ; de plus, il est nécessaire d’indiquer clairement LM-Kit.NET sur la page du produit.

L’évaluation et le développement sont gratuits et sans délai pour les entreprises de toutes tailles ; l’utilisation en production au-delà de ce seuil nécessite une licence Professional.

Les devis commerciaux sont établis en fonction de la taille de l’entreprise, de l’étendue du déploiement, du nombre de produits commerciaux indépendants intégrant le LM-Kit et du niveau de support, et ne sont pas facturés en fonction des tokens, des postes ou des utilisateurs finaux.

Les abonnements annuels Professional et les packs de licences multi-applications achetés via le site web du produit ou auprès d’un distributeur agréé permettent de demander un remboursement dans un délai de 30 jours à partir de la date d’achat, sur présentation du justificatif d’achat ; les accords entreprise sont quant à eux soumis aux conditions stipulées dans le contrat.

API, GitHub et open source : distinctions

• LM-Kit.NET offre une API .NET complète ainsi que de la documentation, tandis que LM-Kit One propose REST, plusieurs interfaces compatibles et MCP ; cependant, son fonctionnement ainsi que celui du serveur reposent sur la licence commerciale LM-Kit, ce qui ne fait pas de lui un logiciel open source.
• Les dépôts d’exemples officiels, Semantic Kernel, Microsoft.Extensions.AI, les connecteurs de données et les dépôts d’intégration AWS utilisent principalement Apache-2.0, mais l’état open source de ces exemples et connecteurs ne modifie pas la licence du produit principal.
• L’application de bureau Maestro est sous licence MIT, tandis que l’application de transcription vocale LynxTranscribe est sous licence GPL-3.0 ; toutes deux doivent être gérées conformément aux licences de leurs propres dépôts, et la plateforme LM-Kit elle-même ne doit pas être rendue open source.
• Les modèles de poids ouverts en cours de curation sont soumis aux licences de leurs respectifs éditeurs ; la licence LM-Kit ne couvre pas les conditions d’utilisation commerciale des poids du modèle.

Architecture de la confidentialité et de la sécurité

• En mode entièrement local, avec les outils externes et la télémétrie optionnelle désactivés, et à condition que le modèle soit déjà présent sur l’ordinateur hôte, les documents, les suggestions, les éléments intégrés et les résultats peuvent rester sur le poste local.
• Lorsque l’assistant externe appelle des outils locaux via MCP, le document original, l’OCR et l’index peuvent rester localement, mais les résultats renvoyés par les outils sont communiqués au modèle externe ; l’administrateur doit vérifier les outils disponibles ainsi que le contenu renvoyé.
• Le LM-Kit One est initialement lié uniquement à l’appareil local par défaut ; l’accès réseau doit être activé explicitement ; la clé API est stockée sous forme de hash, et la session ainsi que les fichiers accessibles sont associés au propriétaire authentifié.
• Les modèles, les index, les fichiers téléchargés, le cache, les journaux et l’historique des requêtes sont stockés dans un répertoire d’état local configurable ou dans une base de données spécifiée ; la durée de conservation des journaux est configurable.
• Le site peut collecter les noms, adresses e-mail et informations de compte soumis volontairement par les utilisateurs, ainsi que les données d’IP, de navigateur, de pages de redirection et les statistiques de visite ; les utilisateurs peuvent demander la suppression, et les copies hors ligne sont conservées pendant un mois avant d’être supprimées définitivement.

Avantages et limites d'utilisation

Avantages principaux

• De l’OCR, de l’extraction structurée, du RAG, du masquage des données jusqu’à l’intégration d’outils d’agents, tout est regroupé dans le même runtime .NET ou un service privé, ce qui réduit les coûts de maintenance pour les langues multiples et les services divers.
• Il est possible d’utiliser l’inférence sur du matériel propre dans des environnements sans réseau, sans stockage des données ou avec un grand volume de documents, sans frais supplémentaires en fonction du nombre de pages, de tokens ou de licences.

Restrictions d'utilisation

• Pour une mise en œuvre locale, il est nécessaire de planifier soi-même les poids des modèles, la mémoire et la mémoire vidéo, les sauvegardes, les journaux, les correctifs, le contrôle d’accès et la haute disponibilité ; la conformité ne sera pas automatiquement assurée simplement en ne téléchargeant rien dans le cloud.
• Les modèles plus gros, les contextes longs, l’OCR visuel, l’inference concurrentielle et le fine-tuning exigent beaucoup de ressources matérielles ; bien que la CPU puisse les exécuter, cela ne signifie pas que toutes les charges de travail bénéficient d’une vitesse adéquate.
• Le degré de confiance dans les résultats, les contraintes structurelles et les références aux numéros de page peuvent aider à la vérification, mais ils ne peuvent pas remplacer une vérification manuelle professionnelle des contrats, des sinistres, des aspects financiers, du personnel ou des exigences réglementaires.
• Le LM-Kit One est toujours en version Business Preview ; il faut prévoir des mises à jour d’interfaces, une migration de données et des possibilités de réversion. La stabilité de la version preview ne doit pas être considérée comme une promesse officielle de version LTS.

Résumé

Le LM-Kit convient aux équipes qui doivent conserver les documents sensibles, les index de recherche et l’inférence des modèles dans leur propre environnement, tout en ayant besoin de .NET, RAG, MCP, d’outils de documents et d’agents auditable.

Avant le lancement, il convient d’examiner séparément les licences du produit LM-Kit, les licences du sous-projet GitHub et les licences des poids des modèles, puis de valider la précision, le débit, la capacité matérielle ainsi que les limites de divulgation des données à l’aide d’un ensemble de documents fixe.