LightOn

Was ist LightOn?

LightOn ist ein französisches AI-Unternehmen, das 2016 in Paris gegründet wurde. Es bietet Unternehmen und öffentlichen Einrichtungen sichere und kontrollierbare generative KI-Lösungen an. Sein wichtigstes Produkt, Paradigm, dient dazu, große Sprachmodelle mit internen Dokumenten, Geschäftskenntnissen sowie Tools einer Organisation zu verbinden.

LightOn begann ursprünglich mit der Entwicklung von Hardware für optische Berechnungen. Ab 2020 konzentrierte sich das Unternehmen auf große Sprachmodelle sowie unternehmensbezogene KI-Lösungen. Das Unternehmen ist an dem Growth-Markt der Euronext in Paris notiert, und seine Geschäftstätigkeit umfasst die Bereiche Finanzen, Industrie, Gesundheitswesen, Verteidigung und öffentlicher Sektor.

Eine kurze Beschreibung

Paradigm ist eine Plattform für Unternehmens-KI-Suchfunktionen und -Agenten, die in souveränen Clouds, der Infrastruktur des Kunden oder isolierten Netzwerken eingesetzt werden kann. Sie unterstützt die Dokumentverarbeitung, die verbesserte Generierung durch Suchfunktionen, den Wechsel zwischen Modellen, die Verwaltung von Berechtigungen, die Automatisierung von Workflows sowie Entwicklungsanschlüsse.

Welche Probleme löst Paradigm?

• Ermöglichen Sie den Mitarbeitern, in einem kontrollierten Umfeld generative KI zur Verarbeitung interner Kenntnisse zu nutzen.
• Informationen aus einer großen Menge an unstrukturierten Dokumenten abrufen und fundierte Antworten erstellen.
• Scans, Tabellen, Diagramme und komplexe Layouts in suchbaren Wissen umwandeln.
• Erstellen Sie spezielle KI-Agenten für Recht, Finanzen, Forschung und Entwicklung oder Kundenservice.
• Verwaltung mehrerer kommerzieller oder Open-Source-Modelle in einer einheitlichen Plattform.
• Setzen Sie die KI-Dienste in einer Infrastruktur bereit, die den Anforderungen an den Datenaufbewahrungsort entspricht.
• Unternehmenssysteme werden über API und MCP in automatisierte Prozesse eingebunden.
• Verwenden Sie Benutzergruppen, Arbeitsbereiche, Audits und SSO zur Steuerung des Zugriffs.

Kernfunktionen

Unternehmens-AI-Dialog

Die Mitarbeiter können die vom Unternehmen erlaubten Modelle zur Kommunikation auswählen und die Arbeitsbereichsdokumente als Kontext verwenden. Die Administratoren können Systemanweisungen, verfügbare Tools, Modelle sowie den Datenumfang konfigurieren.

Verbesserte Suche und Dokumenten-Frage-Antwort

Die Plattform sucht in den autorisierten Dokumenten nach relevanten Abschnitten mithilfe von Semantik, Schlüsselwörtern und der Fähigkeit zur Neuanordnung, wobei das Modell anschließend Antworten erstellt. Die Benutzer können die gefundenen Dokumente und Abschnitte einsehen; wichtige Schlussfolgerungen müssen jedoch im Originaltext überprüft werden.

Multimodales Dokumentverständnis

Paradigm kann Texte, gescannte Seiten, Diagramme, Grafiken, handschriftliche Inhalte sowie komplexe Seitenlayouts verarbeiten und diese mithilfe von OCR-Technologien sowie visuellen Sprachmodellen analysieren. Die Qualität der Erkennung hängt von der Schärfe des Scans, der Sprache, dem Layout sowie der Größe der Datei ab.

Unternehmensagenten

Eine Organisation kann mehrere spezielle Agenten erstellen und für jeden Agent Anweisungen, Modelle, eingebettete Tools, MCP-Server sowie zugängliche Arbeitsbereiche konfigurieren. Die Agenten können einer Person, einem Team oder einem Unternehmen zugeordnet werden, wobei der Zugriff durch Benutzergruppen gesteuert wird.

Modellverwaltung

Administratoren können visuelle Modelle, Sprachmodelle und Embedding-Modelle nutzen und zwischen Self-Hosting, Drittanbieter-APIs oder anderen Deployment-Möglichkeiten wählen. Ob ein Modell verwendet werden kann, hängt von der Konfiguration der Instanz sowie den Berechtigungen der API-Schlüssel ab; nicht alle Kunden sehen dieselbe Liste an Modellen.

Unternehmens-Connector

Die Plattform ermöglicht es, Unternehmensdaten aus SharePoint, Teams, Google Drive und ServiceNow in die Arbeitsumgebung einzubinden und Dokumente entsprechend den Einstellungen zu synchronisieren. Der tatsächliche Umfang der Anschlüsse hängt von der Version, der Implementierung sowie dem Vertrag ab.

Integrierte Tools und MCP

Die Agenten von Paradigm können native Werkzeuge wie Dokumentensuche, Dokumentenanalyse, Webseitensuche und Codeausführung aufrufen, sowie sich mit externen MCP-Servern verbinden. Der Administrator kann entscheiden, ob die Werkzeuge automatisch vom Modell ausgewählt werden oder von dem Benutzer manuell festgelegt werden sollen.

MCP-Integrationsmethode

Systemadministratoren oder Unternehmen Administratoren können externe MCP-Server registrieren und anschließend die entsprechenden Tools den Agenten zuweisen. Die Ergebnisse des MCP werden nicht automatisch in den internen Index von Paradigm geschrieben; die Qualität der Antworten hängt von der Suchfunktion sowie den Berechtigungsregelungen des externen Servers ab.

1. Überprüfen Sie, ob für die Instanz die Agent- und MCP-Funktionen aktiviert sind.
2. Registrieren Sie im Admin-Backend vertrauenswürdige MCP-Server.
3. Konfigurieren Sie den Servernamen, die Adresse, das Authentifizierungstoken und den Sichtbereich.
4. Überprüfen Sie, ob die Token verschlüsselt gespeichert werden und ob minimale Berechtigungen eingestellt sind.
5. Verknüpfen Sie den MCP-Server mit einer bestimmten Agenten- oder Chat-Konfiguration.
6. Testwerkzeuge für die Erkennung, Parameter, Rückgabewerte und Fehlerbehandlung.
7. Überprüfen, dass verschiedene Benutzergruppen keine Informationen zu Verbindungen einsehen können, auf die sie keinen Zugriff haben.
8. Nach dem Go-Live werden die Audit-Aufrufprotokolle überprüft und die Zugangsdaten regelmäßig ausgetauscht.

Arbeitsbereiche, Gruppen und Berechtigungen

Paradigm organisiert Wissen über Unternehmen, Benutzergruppen, Arbeitsbereiche, Sammlungen und Dokumente. Die Benutzergruppen bestimmen, auf welche Arbeitsbereiche die Mitglieder Zugriff haben können, und die Agenten können den Umfang der abrufbaren Arbeitsbereiche weiter einschränken.

Dokumentverarbeitungsprozess

1. Planen Sie Benutzergruppen und Arbeitsbereiche nach Abteilungen sowie Datensensitivität.
2. Laden Sie Dateien hoch oder konfigurieren Sie den Unternehmensdatenanschluss.
3. Wählen Sie die für den Dateityp geeignete Analyse- und OCR-Methode aus.
4. Warten Sie, bis die Extraktion, Aufteilung in Blöcke, Einbettung und Indexierung des Dokuments abgeschlossen sind.
5. Verwenden Sie repräsentative Fragen, um zu überprüfen, ob die abgerufenen Abschnitte korrekt sind.
6. Anpassen von Labels, Filtern, Metadaten und Zugriffsrechten.
7. Lassen Sie die Vertriebsmitarbeiter die Antworten mit dem Originaltext überprüfen.
8. Erstellen von Strategien für Aktualisierung, Neu-Synchronisierung, Archivierung und Löschung.

Unterstützte Eingaben und Ausgaben

Modellauswahl und Anpassung von Modellen

Organisationen können in derselben Paradigm-Instanz mehrere Geschäftsmodelle, Open-Source-Modelle oder selbst gehostete Modelle konfigurieren und diese je nach Datenschutzanforderungen, Leistung und Kosten den Nutzern zuweisen. Die Plattform unterstützt außerdem die Verwendung von LoRA-Feinabstimmungsmodellen und empfiehlt für Szenarien mit hoher Durchsatzrate spezielle Modell-Dienstframeworks.

• Sprachmodelle werden zur Beantwortung von Fragen, zur Umformulierung und zum schrittweisen Schlussfolgern verwendet.
• Visuelle Sprachmodelle werden zur Verarbeitung von Diagrammen, gescannten Seiten und Bildern verwendet.
• Ein Embedding-Modell wandelt Dokumente und Abfragen in Suchvektoren um.
• Das Neuanordnungsmodell verbessert die Relevanzrangfolge der Kandidatensegmente.
• Bei selbst verwalteten Modellen ist der Kunde für die Rechenleistung, die Überwachung sowie das Versionsmanagement verantwortlich.
• Drittanbieter-Modell-APIs führen zusätzliche Regeln für die Datenverarbeitung und Abrechnung ein.

Alfred und das offene Modell

LightOn hat die kommerziellen Sprachmodelle der Alfred-Serie entwickelt und außerdem verschiedene Forschungsmodelle, Datensätze sowie Suchtechnologien veröffentlicht. Wenn Kunden Paradigm einsetzen, können sie entweder die LightOn-Modelle nutzen oder auf andere Modelle zurückgreifen; die Funktionen der Plattform dürfen nicht mit einem bestimmten Modell gleichgesetzt werden.

Einrichtungsmethode

Wie wählt man zwischen SaaS, hybrider und lokaler Implementierung?

• Wenn eine schnelle Überprüfung des Geschäftswerts erforderlich ist, sollte SaaS vorrangig bewertet werden.
• Die Daten müssen intern bleiben, doch bei fehlendem GPU kann eine hybride Bereitstellung bewertet werden.
• Wird eine vollständige Kontrolle über die Infrastruktur und die Protokolle benötigt, sollte eine lokale Installation gewählt werden.
• Für einen vollständigen Netzwerkabbruch oder in vertraulichen Umgebungen sind isolierte Netzwerklösungen erforderlich.
• Bei der Bereitstellung von Produkten an externe Kunden können White-Label-Lösungen oder eingebettete APIs bewertet werden.
• Bei der Auswahl sollten gleichzeitig die Kosten für Rechenleistung, Speicher, Anschlüsse, Wartung und Aufrüstung berücksichtigt werden.

API-Fähigkeiten

Paradigm bietet REST-APIs, die Funktionen wie Modelle, Chats, Agenten, Threads, Tools, Dateien, Arbeitsbereiche sowie Suchfunktionen für Dokumente umfassen. Vor der Aufrufung muss eine API-Schlüssel von der Instanz erstellt werden, und es gelten die Modelle und Ressourcen, die mit diesem Schlüssel zugänglich sind.

Hinweise zur API-Version

Das aktuelle Paradigm-Dokument enthält weiterhin Beispiele für die Versionen v2 und v3 sowie für ältere Versionen. Einige Beschreibungen der Agenten sind als veraltet markiert. Bei neuen Projekten sollte zunächst die verwendete Version festgelegt werden, anschließend die entsprechende neueste Schnittstelle ausgewählt werden. Es darf nicht direkt mit Request-Strukturen verschiedener Versionen kombiniert werden.

1. Bestätigen Sie beim Administrator die Veröffentlichungsversion der Paradigm-Instanz.
2. Erstellen Sie eine spezielle API-Schlüssel mit minimierten Berechtigungen.
3. Aufrufen der Modellliste zur Überprüfung der verfügbaren Techniknamen.
4. Zuerst werden der Datei-Upload, der Parse-Zustand und die Suchergebnisse getestet.
5. Für Aufrufe der Agent-Tool fügen Sie Zeitüberschreitungen, Wiederholungsversuche und Audits hinzu.
6. Legen Sie den API-Schlüssel in das Server-Schlüsselverwaltungssystem.
7. Vergleichen Sie vor dem Upgrade v2, v3 und die Beschreibung der neuen Version.
8. Nach Überprüfung in der Testumgebung wird die Produktintegration aktualisiert.

Entwickler-SDK und GitHub

LightOn betreibt die offizielle GitHub-Organisation und stellt das Python SDK, Bibliotheken zur Trainierung von Suchmodellen, Vektor-Suchmaschinen sowie Forschungsdatensätze zur Verfügung. Die verschiedenen Repositorien nutzen jeweils Lizenzen wie Apache 2.0 oder MIT – doch das bedeutet nicht, dass der gesamte Kerncode der Paradigm-Plattform offen zugänglich ist.

Preisgestaltung

LightOn gibt keinen einheitlichen, festen Betrag an. Paradigm berechnet die Kosten in der Regel nach der Anzahl der Benutzerplätze, dem gewählten Plan, der Implementierungsarchitektur sowie den bereitgestellten Infrastruktur- und Serviceleistungen. Die Plattform legt Wert auf eine Festpreisgestaltung für Benutzerplätze oder Infrastruktur – anstatt einfach nach der Anzahl der generierten Token zu abrechnen.

Vor der Anfrage muss dies bestätigt werden.

• Anzahl der Plätze, Anzahl der Administratoren und Bereich der externen Benutzer.
• SaaS-, Hybrid-, lokale oder isolierte Netzwerkarchitekturen.
• Die zu verbindenden Modelle sowie die Kosten für die jeweiligen Lizenzen.
• Dokumentengröße, Frequenz der inkrementellen Synchronisierung und Speicherkapazität.
• Anforderungen an OCR, Suchfunktionen, Inferenz und parallele Leistung.
• Sind Anbindungen wie SharePoint im Paket enthalten?
• SSO, SCIM, Auditing, Backup und Hochverfügbarkeit.
• Kosten für Implementierung, Schulung, Aufwertung, Support und SLA.
• Ob für Test-, Vorproduktions- und Notfallumgebungen zusätzliche Gebühren anfallen.

Unternehmenssicherheit und Konformität

Paradigm legt Wert auf die Einhaltung der GDPR-Vorgaben, auf die Speicherung von Daten, deren Übertragung sowie auf die statische Verschlüsselung. Zudem werden fein abgestimmte Berechtigungen sowie Funktionen zur Auditing angeboten. Auf der Produktseite wird außerdem die Konformität mit SOC 2 Type 1 angegeben. Die genauen Anforderungen an die Zertifizierung, die Grenzen der Implementierung sowie die vertraglichen Verpflichtungen müssen vom Sicherheitsteam des Kunden überprüft werden.

Privatsphäre und Datenverarbeitung

Paradigm richtet sich an professionelle Anwender und verarbeitet Daten wie Konten, Nutzungstagebücher, Dokumente sowie Kundenkonfigurationen. Die tatsächliche Speicherung und Verarbeitung der Daten hängt vom SaaS-, Hybrid- oder lokalen Deployment-Vertrag ab; die Privatsphäreregeln für eine lokale Installation können nicht direkt auf gehostete Instanzen übertragen werden.

• Klassifizieren Sie personenbezogene Daten, Geschäftsgeheimnisse und regulierte Daten vor dem Hochladen.
• Überprüfen Sie, ob der Modellanbieter Prompte oder Dokumententeile entgegennimmt.
• Beschränken Sie den Zugang von Support-Mitarbeitern und Administratoren zu Produktionsdaten.
• Konfigurieren Sie für den Connector Leserechte sowie Zugangsdaten mit begrenztem Umfang.
• Erstellen von Regeln für die Synchronisierung, Versionierung, Archivierung und Löschung von Dokumenten.
• Bestätigen Sie die Aufbewahrungsfristen für Protokolle, Backups und Vektorindizes.
• Rechte sollten rechtzeitig zurückgenommen werden, wenn jemand das Unternehmen verlässt, es zu Umbauten in den Abteilungen kommt oder ein Projekt abgeschlossen ist.

Für welche Benutzer geeignet

• Große Unternehmen, die generative KI auf sensiblen Daten einsetzen möchten.
• Französische und europäische Organisationen, die einen souveränen Cloud- oder lokalen Einsatz benötigen.
• Finanzielle, medizinische und öffentliche Einrichtungen, die strengen Compliance-Vorgaben unterliegen.
• Rechtsteams, Entwicklerteams und Wissensteams, die eine multimodale Dokumentensuche benötigen.
• Organisationen, die die Schaffung mehrerer spezialisierter Agenten sowie die Kontrolle des Datenumfangs anstreben.
• Softwarehersteller müssen die RAG-Fähigkeiten in ihre Produkte integrieren.
• Es ist geplant, den Kunden Cloud-Dienstleister und Integratoren für AI unter eigenem Markenname anzubieten.

Typische Anwendungsszenarien

Vorteile des Produkts

• Die Bereitstellungsmodi umfassen SaaS, hybride, lokale und isolierte Netzwerke.
• Dokumentensuche, OCR, Modelle, Agenten und zentrale Verwaltung von Berechtigungen.
• Unterstützung der Koexistenz von kommerziellen, Open-Source- und selbstbetreuten Modellen.
• Multimodale Analyse eignet sich für komplexe Unternehmensdokumente.
• Es werden REST-APIs, MCP sowie Unternehmensdaten-Connector bereitgestellt.
• Es ist möglich, den Wissensumfang der Agenten nach Team und Arbeitsbereich einzuschränken.
• Der Preis betont die Vorhersehbarkeit der Plätze oder der Infrastruktur.
• Die Behörde unterstützt gleichzeitig offene Suchtechnologien und die Entwicklung von SDKs.

Einschränkungen und Hinweise

• Es gibt keinen offiziellen, einheitlichen Betrag; für den Einkauf sind Verhandlungen mit dem Verkäufer sowie eine technische Bewertung erforderlich.
• Für eine lokale Implementierung muss der Kunde weiterhin Rechenleistung, Speicherkapazität sowie Infrastruktur für Wartung bereitstellen.
• Die Dokumentenerkennung und -beantwortung garantieren keine vollständige Genauigkeit.
• Fehlerhafte Berechtigungs-Einstellungen können dazu führen, dass der Agent auf Daten zugreift, die er eigentlich nicht sehen darf.
• Die Qualität und Sicherheit externer MCP-Server wird nicht allein von Paradigm gewährleistet.
• Verschiedene Instanzen, Versionen und API-Schlüssel zeigen unterschiedliche Modelle an.
• Die Dokumentationen für API v2, v3 sowie ältere Versionen existieren gleichzeitig; bei der Entwicklung muss die passende Instanzversion verwendet werden.
• Das Veröffentlichen eines GitHub-Projekts bedeutet nicht, dass Paradigm im Kern open source ist.
• Dritte Modelle und Connector können zusätzliche vertragliche sowie datenbezogene Grenzen mit sich bringen.

Umsetzungsempfehlungen

1. Wählen Sie einen Geschäftsfall mit klar definiertem Dokumentumfang und messbarem Wert aus.
2. Abschluss der Datenklassifizierung, der Berechtigungsanalyse und der Bewertung der Bereitstellungsarchitektur.
3. Erstellen Sie repräsentative Dokumente, Fragebögen und manuelle Standardantworten.
4. Konfigurieren Sie in der Testumgebung Arbeitsbereiche, Benutzergruppen, Modelle und Verbindungen.
5. Bewerten Sie OCR, die Suchrückgabe, die Genauigkeit der Antworten und die Nachvollziehbarkeit des Originaltextes.
6. Legen Sie Genehmigungs-, Berechtigungs- und Auditschutzstrategien für die Aufrufe des Agent-Tools fest.
7. Durchführen von Tests zur Sicherheit, Konformität, Leistung und Fehlerbehebung.
8. Die Mitarbeiter sollen darin geschult werden, zwischen Suchkriterien, Modellantworten und unternehmerischen Entscheidungen zu unterscheiden.
9. In einem kleinen Umfang in Betrieb genommen und die eingesparte Zeit, die Fehlerquote sowie die Nutzung rate aufgezeichnet.
10. Stellen Sie die Upgrades, Backups, Löschvorgänge und Ausstiegspläne erst nach Überprüfung vor einer erweiterten Implementierung sicher.

Häufige Fragen

Was ist die Beziehung zwischen LightOn und Paradigm?

LightOn ist ein Entwicklungs- und Betriebsunternehmen, wobei Paradigm seine generative KI-Plattform für Unternehmen und öffentliche Einrichtungen darstellt. LightOn entwickelt außerdem das Alfred-Modell sowie verschiedene offene Suchtechnologien.

Kann Paradigm privat eingesetzt werden?

Ja. Die Plattform bietet Architekturen wie lokale, private Clouds, hybride sowie isolierte Netzwerke – außerdem kann auch die europäische souveräne Cloud-SaaS-Plattform genutzt werden.

Kann Paradigm nur mit dem LightOn-Modell verwendet werden?

Nein. Der Administrator kann auf LightOn-Modelle, Geschäftsmodelle, Open-Source-Modelle oder von Kunden selbst gehostete Modelle zugreifen, doch der genaue Umfang der Verwendung hängt von der Konfiguration der Instanz sowie vom Vertrag ab.

Wird API und MCP unterstützt?

Unterstützung: Paradigm bietet mehrere Versionen der REST-API an und ermöglicht es den Agenten, sich mit externen MCP-Servern zu verbinden. Bei der Entwicklung müssen die Instanzversion, die Berechtigungen der Schlüssel sowie der Funktionsumfang der Tools berücksichtigt werden.

Ist LightOn ein Open-Source-Unternehmen?

LightOn stellt SDKs, Suchbibliotheken, Modelle und Datensätze zur Verfügung, doch das Kernstück der Paradigm-Plattform bleibt weiterhin proprietäres Geschäftssoftware. Der Open-Source-Status muss anhand des jeweiligen Repositoriums und der Lizenz beurteilt werden.

Wie viel kostet Paradigm?

Es gibt keinen festen, offiziellen Preis. In der Regel wird ein Kostenvoranschlag je nach Anzahl der Plätze, dem Konzept, der Architektur der Implementierung sowie dem Umfang der Infrastruktur und Dienstleistungen erstellt. Die Kostenstruktur unterscheidet sich bei SaaS-, Hybrid-, lokalen sowie White-Label-Lösungen.

Eignet es sich für Privatnutzer?

Das Produkt richtet sich hauptsächlich an professionelle Organisationen und nicht an gewöhnliche Privatnutzer für Chats. Für Einzelpersonen oder kleine Teams, die keine Anforderungen in Bezug auf Unternehmensdaten, -verwaltung und -einsatz haben, ist es möglicherweise schwierig, seinen vollen Wert zu erkennen.

Zusammenfassung

Der entscheidende Vorteil von LightOn Paradigm besteht darin, dass es die Suche nach Unternehmenswissen, das Verständnis mehrerer Dokumenttypen, die Verwaltung von Modellen, Agenten, APIs sowie die Steuerung von Berechtigungen in einer kontrollierbaren Implementierungsarchitektur integriert. Es eignet sich besonders für Organisationen, bei denen Daten sensibel sind, strenge Compliance-Anforderungen gelten und die ihre Abhängigkeit von öffentlichen KI-Systemen verringern möchten.

Bei der Auswahl sollte man nicht nur die Leistung der Modellantworten vergleichen, sondern auch die Dokumentenanalyse, die Rechteverwaltung, die Anschlüsse, die Infrastruktur, die Aktualisierungen, die Audits sowie die Gesamtkosten berücksichtigen. Es wird empfohlen, mit kleinen, quantifizierbaren Szenarien zu beginnen und sich anschließend je nach Genauigkeit der Ergebnisse und den Betriebskosten schrittweise auszudehnen.