Aleph Alpha

Was ist Aleph Alpha?

Aleph Alpha ist ein in Heidelberg, Deutschland, ansässiges Unternehmen im Bereich KI, das sich auf die Entwicklung von souveränen KI-Systemen sowie speziellen Sprachmodellen für Regierungen, die Industrie und regulierte Organisationen konzentriert. Das Unternehmen legt Wert auf europäische Infrastrukturen, Kontrolle über Daten, Transparenz sowie nachvollziehbare Ergebnisse in der Anwendung dieser Technologien.

Das Unternehmen positioniert sich heute nicht mehr als Hersteller von Produkten für den alltäglichen Austausch zwischen Verbrauchern, sondern entwickelt gemeinsam mit Kunden SLLM-Systeme für rechtliche, administrative sowie industrielle und wissenschaftliche Prozesse. PhariaAI bietet außerdem einen umfassenden Technologiestack – von Daten und Modellen über Anwendungen bis hin zu Wartungsdienstleistungen.

PhariaAI-Produktstack

Kernkompetenzen

• Spezielle Sprachmodelle für den Unternehmensbereich trainieren.
• Einsatz von souveräner KI in Europa oder im Kundenumfeld.
• Erstellung einer Anwendung zur Verbesserung von Wissensabfragen und -suche in Unternehmen.
• Bietet Zusammenfassung, Extraktion, Übersetzung und Inhaltsgenerierung.
• Entwicklung, Testen und Bereitstellung von benutzerdefinierten KI-Anwendungen.
• Feinabstimmung und dynamische Verwaltung des Unternehmensmodells.
• Steuerung des Zugriffs auf Anwendungen nach Benutzer und Projekt.
• Ständige Bewertung, Verfolgung und Überwachung der Ausgabequalität.
• Verbinden Sie OpenAI-kompatible Modelle mit MCP-Tools.
• Unterstützung von gehosteten und lokalen Produktionsimplementierungen.

Spezialisierte Sprachmodell SLLM

SLLM legt Wert auf spezielle Schulungen im Bereich der Kundenumgebungen, der Fachbegriffe, der Prozesse sowie der Qualitätsstandards – anstatt einfach nach größeren, allgemeingültigen Modellen zu streben. Aleph Alpha definiert in der Regel gemeinsam mit dem Kunden die jeweiligen Szenarien, ordnet die Daten und entwickelt ein spezielles Bewertungssystem.

• In Kombination mit Branchenbegriffen und fachspezifischem Material.
• Zur Gestaltung von realen Workflows.
• Definieren Sie quantifizierbare Qualitätsgrenzen.
• Testen unter Berücksichtigung der Produktionsdatenbeschränkungen.
• Ständige Rückmeldungen von Experten aus dem Bereich.
• Überwachen Sie nach dem Bereitstellen die Leistungsveränderungen.

PhariaAssistant

PhariaAssistant bietet den Mitarbeitern einen Zugang zur Unternehmens-KI, mit der Texte zusammengefasst, Informationen aus Dokumenten extrahiert, Inhalte übersetzt sowie benutzerdefinierte Anwendungen ausgeführt werden können. Administratoren können die Markenoberfläche anpassen und steuern, welche Anwendungen die Nutzer sehen dürfen.

PhariaCatch

PhariaCatch sammelt durch einen mensch-geführten Prozess das Wissen von Experten im jeweiligen Bereich sowie strukturierte Rückmeldungen, um KI-Anwendungen zu verbessern. Es eignet sich dazu, implizites Wissen in überprüfbare Daten umzuwandeln, anstatt zu ermöglichen, dass Modelle ohne Überwachung selbstständig wichtige Abläufe lernen.

PhariaStudio

PhariaStudio ist eine kooperative Entwicklungsumgebung zur Erstellung von Anwendungen, zum Ausprobieren von Prompten, zur Durchführung von Bewertungen, zur Feinabstimmung von Modellen sowie zur Veröffentlichung in der Produktion. Entwickler können die fertigen Anwendungen direkt in PhariaAssistant bereitstellen und einzelnen Benutzern Zugriffsrechte zuweisen.

• Erstellung und Verwaltung von AI-Projekten.
• Entwicklung von benutzerdefinierten Anwendungen und Workflows.
• Vergleichen Sie Modell- und Prompt-Strategien.
• Ein Testset sowie Qualitätsindikatoren erstellen.
• Feinabstimmung des Domänenmodells.
• Überprüfen Sie die Bewertungs-Rangliste.
• Anwendung veröffentlichen und den Zugriff steuern.
• Rückgängig machen von nicht zulässigen Änderungen.

PhariaOS

PhariaOS ist für die Verwaltung von Modellen, Rechenressourcen, API-Zugangsdaten, Projektrechten sowie dem Bereitstellungsstatus zuständig. Das IT-Team kann die in Studio angepassten Modelle ohne Änderungen an der zugrundeliegenden Infrastruktur als Inferenzdienste bereitstellen.

PhariaData

PhariaData wird zur Erstellung von Datenlagern, Datensätzen, Verarbeitungsschritten, Dateien und Connectoren verwendet, um eine gut verwaltete Datenbasis für das Training, die Abfrage und die Anwendung von Modellen bereitzustellen. Offizielle Python-SDKs für synchronen und asynchronen Betrieb helfen Entwicklern dabei, Ressourcen zu verwalten.

PhariaSearch

PhariaSearch wird auch als Document Index bezeichnet und ist für die Verwaltung von Dokumentensammlungen, das Indizieren sowie die semantische Suche zuständig. Entwickler können mithilfe des SDKs relevante Abschnitte suchen und die Suchergebnisse zur Beantwortung von Fragen, zur Zusammenfassung sowie zur Erstellung überprüfbarer Antworten nutzen.

RAG-Unternehmenswissensfragen und -antworten

• Importieren von autorisierten Unternehmensdokumenten.
• Indizes werden nach Sammlungen, Namensräumen und Berechtigungen erstellt.
• Verwenden Sie semantische Suche, um relevante Inhalte zu finden.
• Verwenden Sie den Abschnitt als Grundlage für die Antwort des Modells.
• Die Quelle und der Kontext werden zur Überprüfung für den Benutzer zurückgegeben.
• Durch die Bewertung wird die Vollständigkeit und Treue überprüft.
• Die geänderten Unternehmenskenntnisse werden ständig aktualisiert.

PhariaInference

PhariaInference bietet eine einheitliche Inferenz-Schnittstelle für die Modelle in der Plattform und unterstützt Aufrufmethoden, die mit OpenAI kompatibel sind. Die Anwendung kann Dialoge führen, Inhalte ergänzen, Übersetzungen durchführen sowie strukturierte JSON-Ausgaben liefern; die konkreten Modelle werden vom Administrator bereitgestellt und autorisiert.

PhariaEngine

PhariaEngine ist eine eigenständig lauffähige Server-basierte AI-Laufzeitumgebung, die Python-Funktionen in isolierte WebAssembly-Skills kompiliert und über Schnittstellen aufruft. Sie kann mit Aleph Alpha-Inferenz oder anderen OpenAI-kompatiblen Backend-Systemen verbunden werden und externe Tools über MCP entdecken.

• Skill wird in isolierter Weise mit WebAssembly ausgeführt.
• Python-Methoden mit Decoratoren schreiben.
• Schnelles Kaltstarten und einheitliche Skalierung.
• Das Modell wird über die Cognitive System Interface aufgerufen.
• Der Tool-Server wird über MCP verbunden.
• Verwenden Sie OpenTelemetry zur Protokollierung und Überwachung.
• Paketiere die Skill und push sie in das OCI-Registry.

PhariaSkill

Das PhariaSkill SDK hilft Entwicklern dabei, Eingaben und Ausgaben von Skills sowie fließende Nachrichten und Modellaufrufe zu definieren, um daraus WebAssembly-Komponenten zu kompilieren. Bei der Ausführung werden direkte Netzwerkverbindungen sowie jegliche native Abhängigkeiten eingeschränkt – im Austausch gegen klarere Berechtigungsgrenzen und bessere Übersichtlichkeit.

Strukturierte Ausgabe

PhariaInference unterstützt die Nutzung von JSON Schema zur Beschränkung der Ausgabe des Modells und eignet sich für den Aufruf externer APIs, Maschinenanweisungen sowie Anwendungen, die stabile Felder benötigen. Strukturelle Beschränkungen gewährleisten das Format, garantieren jedoch nicht automatisch die Richtigkeit der Feldinhalte.

Übersetzungsfähigkeit

Die Plattform bietet eine eigenständige Übersetzungsschnittstelle, mit der die Übersetzungsfähigkeiten eines Unternehmens in benutzerdefinierte Anwendungen integriert werden können. Für Fachbegriffe, rechtliche Texte und professionelle Dokumente sind jedoch weiterhin ein Glossar, eine Qualitätsprüfung sowie eine manuelle Überprüfung erforderlich.

Anwendungszugriffsverwaltung

Das Team kann im Rahmen desselben Projekts die Studio-Anwendung an Assistant-Nutzer veröffentlichen und Zugriffsrechte individuell zuweisen. Die Rechte sollten sowohl die Anwendung, die Daten, die Suchressourcen als auch die Modelle umfassen, um zu verhindern, dass zwar der Eingang zur Benutzeroberfläche versteckt wird, aber dennoch auf die Backend-Funktionen zugegriffen werden kann.

Dynamisches Modellmanagement

PhariaOS kann Modelle, die im Studio feinjustiert wurden, entgegennehmen und sie direkt in die Inferenzumgebung einsetzen, wodurch Änderungen an der Infrastruktur reduziert werden. Für den Einsatz der Modelle sind dennoch Versionen, Bewertungskriterien, Genehmigungen sowie Protokolle für Rückgänge erforderlich.

KI-Bewertung

Aleph Alpha betont die Verwendung von AI-Testfällen als Unit- und Integrationstests, um Szenariobasierte Kennzahlen für Korrektheit, Vollständigkeit und Konsistenz zu erstellen. Die Bewertung kann vor dem Deployment, nach Änderungen an Prompten oder Modellen sowie während des Produktionszyklus wiederholt durchgeführt werden.

• Definieren von Qualitätsindikatoren, die mit den Geschäftsrisiken übereinstimmen.
• Normalfälle und Randfälle erstellen.
• Einstellen eines Qualitätslimits zur Verhinderung des Online-Status.
• Verwenden Sie das Judge-Modell zur Unterstützung der Echtzeit-Überprüfung.
• Beibehaltung der manuellen Überprüfung durch Experten im jeweiligen Bereich.
• Fügen Sie Unfälle und neue Probleme dem Testdatensatz hinzu.
• Ständige Überwachung der Abweichungen bei der Produktionsleistung.

Erklärbarkeit und Herkunft

Die Plattform nutzt die Quellenangaben, das Vertrauen in das Modell sowie die Überwachung des Workflow, um die Überprüfbarkeit der Antworten zu verbessern. Zitate können lediglich nachweisen, dass das System auf bestimmte Informationen zugegriffen hat; der Benutzer muss jedoch weiterhin beurteilen, ob das Modell den ursprünglichen Text richtig verstanden und angewandt hat.

Unterstützte Anwendungsszenarien

• Verwaltungsassistent im öffentlichen Sektor.
• Suche nach Rechts- und Politikdokumenten.
• Analyse von Industrieausfällen und Ingenieurberichten.
• Autonachfrage und Bearbeitung von Ausschreibungsunterlagen.
• Fragen und Antworten zu Wissen in Wissenschaft und Technik.
• Hilfsprogramm für wertvolles Unternehmenswissen.
• Training von modellspezifischen Modellen für einen bestimmten Bereich.
• Es werden Entscheidungshilfen mit nachvollziehbarem Output benötigt.

Öffentlicher Sektor

Aleph Alpha dient hauptsächlich Regierungen und öffentlichen Einrichtungen und kann KI-Hilfsprogramme, Dokumentenanalyse sowie Prozessunterstützung in der staatlichen Infrastruktur einsetzen. Bei öffentlichen Entscheidungen müssen rechtliche Grundlagen, menschliche Verantwortung sowie Beschwerdemöglichkeiten gewährleistet bleiben.

Industrie und Ingenieurwesen

Die Plattform eignet sich zur Suche nach Informationen in komplexen technischen Dokumenten, Fehlerberichten und verschiedenen Datensystemen sowie dazu, spezielle Agenten zur Ausführung von Analyseaufgaben einzusetzen. Im industriellen Einsatz sollten die vom Modell vorgeschlagenen Lösungen mit ingenieurtechnischen Überprüfungen, Qualitätsmanagement-Systemen und Sicherheitsstandards verbunden werden.

Verteidigung und sensible Branchen

Die offizielle Website listet die Verteidigung als einen der Dienstbereiche auf und betont dabei die Notwendigkeit, Daten sowie Fachwissen unter Kontrolle zu halten. Bei sicherheitskritischen Systemen müssen der Einsatzumfang, die Berechtigungen der Mitarbeiter, die Lieferketten sowie die Prüfverfahren sorgfältig bewertet werden.

Einrichtungsmethode

Anleitung zur Erstellung eines Unternehmensassistenten

1. Ermitteln Sie eine wertvolle und überprüfbare Geschäftsaufgabe.
2. Ordnen Sie die zulässigen Dokumente und Benutzerrechte.
3. Daten und Indizes in PhariaData und Search erstellen.
4. Erstellen Sie eine Anwendung für Suchen und Beantworten in PhariaStudio.
5. Erstellen Sie ein Testset und Qualitätskriterien für den Geschäftsbetrieb.
6. In PhariaAssistant bereitstellen und Benutzerrechte zuweisen.
7. Überwachen der tatsächlichen Nutzung und Einbeziehung von Fehlern in den Bewertungssatz.

Entwicklung von Skill-Tutorials

1. Installieren Sie das PhariaSkill-Entwicklungs-Paket.
2. Definieren Sie Eingang und Ausgang mit einem Datenmodell.
3. Implementierung einer Python-Skill-Funktion mit Decoratoren.
4. Verwenden Sie das CSI-Aufrufmodell oder die MCP-Tools.
5. Testergebnisse und Ausnahmen in der Entwicklungsumgebung.
6. Kompilieren in WebAssembly und in das OCI-Registry hochladen.
7. Nach dem Bereitstellen werden Tracking, Berechtigungen und Ressourcennutzung überprüft.

Anleitung zur Aktivierung des Modells

1. Definieren Sie die Aufgaben im jeweiligen Bereich sowie die inakzeptablen Fehler.
2. Vorbereitung von autorisierten Schulungs- und Bewertungsdaten.
3. Vergleichen Sie im Studio das Basismodell mit dem angepassten Modell.
4. Auswertung der Funktionalität, Vollständigkeit und Sicherheit.
5. Nach Erreichen der Qualitätsanforderungen wird die Freigabe für die Bereitstellung eingereicht.
6. Veröffentlichung der festgelegten Modellversion über PhariaOS.
7. Überwachen Sie die Produktionsleistung und behalten Sie die Fähigkeit zu einem schnellen Rollback bei.

Leitfaden für den Unternehmenseinkauf

1. Listen Sie die Anforderungen an Datenhoheit, Implementierung und Regulierung auf.
2. Bestimmen Sie den Zielbereich, die Anzahl der Nutzer sowie die wichtigsten Prozesse.
3. Kontaktieren Sie Aleph Alpha, um Anforderungen und Lösungsvorschläge zu bewerten.
4. Überprüfen Sie den Umfang der Verwaltung, des lokalen Deployments und der Modellberechtigungen.
5. Führen Sie kontrollierte Pilotprojekte mit echten, gedämpften Daten durch.
6. Messen Sie Masse, Verzögerung, Wartung und Gesamtkosten.
7. Der Vertrag wird nach Sicherheits-, Rechts- und Geschäftsprüfungen unterzeichnet.

Für welche Benutzer geeignet

• Europäische Regierungen und öffentliche Institutionen.
• Große Unternehmen, die souveräne KI benötigen.
• Industrielle Organisationen mit umfangreichen ingenieurtechnischen Kenntnissen.
• Regulierte Branchen, die spezielle Modellierungen für bestimmte Bereiche benötigen.
• Ein Team, das eine lokale Installation sowie strenge Berechtigungen erfordert.
• Projekte, die erklärbar, bewertbar und prüfbar sind, sollten in den Vordergrund gestellt werden.
• Entwicklerteams, die WebAssembly AI Skills entwickeln möchten.

Typische Anwendungsszenarien

• Zusammenfassung und Extraktion von Verwaltungsdokumenten.
• In der sensiblen Wissensdatenbank können überprüfbare Antworten gesucht werden.
• Bearbeitung von RFQs und Anforderungsengineering für Automobile.
• Analyse von Berichten zu industriellen Problemen und technischen Unterlagen.
• Training von Modellen für Recht, Industrie oder Wissenschaft.
• Einsatz von Unternehmens-AI-Anwendungen mit persönlichen Berechtigungen.
• Erstellung strukturierter Geschäftsausgaben über API.
• Erhebung von Expertenfeedback zur kontinuierlichen Verbesserung des Modells.

Für welche Situationen es nicht wirklich geeignet ist

• Nur für Nutzer kostenloser persönlicher Chat-Roboter.
• Kleine Teams, die die Standard-Monatsgebühren im Online-Modus ansehen möchten.
• Allgemeine Projekte ohne Bereichsdaten und Experteneinsatz.
• Entwickler, die fordern, dass alle Modellgewichte frei für kommerzielle Nutzung zur Verfügung stehen.
• Ein Content-Team, das nur nach konsumentenorientierter Kreativität strebt.
• Personen, die sich die Kosten für die Implementierung und Bewertung im Unternehmen nicht leisten können.
• Organisationen, die hoffen, alle Geschäftsprozesse mit einem einzigen Modell ersetzen zu können.

Preisgestaltung

Auf der offiziellen Aleph Alpha-Website werden die Kosten für eine Standardmitgliedschaft bei PhariaAI, der Preis pro Berechnung sowie die Gebühren für eine lokale Implementierung nicht angegeben. Die Preise werden in der Regel je nach Modell, Komponenten, Anzahl der Benutzer, Datenmenge, Infrastruktur sowie Umfang von Implementierung und Support individuell kalkuliert.

Pharia-1-Modell

Pharia-1-LLM-7B bietet zwei Versionen mit Gewichten – „control“ und „control-aligned“ – bei einer Trainingslänge von 8192 Tokens. Es wird insbesondere auf Englisch, Deutsch, Französisch und Spanisch optimiert. Die „Aligned“-Version beinhaltet zusätzlich Anpassungen zur Priorisierung sowie Sicherheitstraining, während die „Control“-Version eher auf eine prägnante Extraktion und Zusammenfassung ausgerichtet ist.

Modelllizenz

Die Pharia-1-Gewichte unterliegen der Open Aleph License, die ausdrücklich nicht-kommerzielle Forschungs- und Bildungszwecke erlaubt. Es handelt sich um ein Modell mit verfügbaren Gewichten, sollte aber nicht als Standard-Open-Source-Lizenz für jegliche kommerzielle Nutzung eingestuft werden.

Open-Source-Komponenten

Unterschiede zwischen Open-Source- und kommerziellen Plattformen

Aleph Alpha hat den Laufzeitbetrieb, das SDK, den Forschungskod sowie einige Modellgewichte veröffentlicht, doch der vollständige PhariaAI-Produktstack bleibt ein kommerzielles Unternehmenssoftwareprodukt. Die Offenlegung eines bestimmten SDKs bedeutet nicht, dass Assistant, Studio, OS, Data und Search kostenlos privat genutzt werden können.

Datensouveränität

Aleph Alpha betont, dass Modelle und Anwendungen in der europäischen Infrastruktur oder im Umfeld der Kunden ausgeführt werden können, wodurch Organisationen die Kontrolle über Daten, Modelle und die Implementierung behalten. Wahre Souveränität wird jedoch durch Verträge, Betriebsfähigkeit, Lieferketten, Schlüssel, Updates sowie Berechtigungen für das Personal gemeinsam gewährleistet.

Vorteile des Produkts

• Fokus auf Regierung, Industrie und regulierte Unternehmen.
• Unterstützung für Hosted- und lokalen Einsatz.
• Abdeckt den gesamten Stack aus Daten, Suchfunktionen, Modellen, Anwendungen und Betrieb.
• Man sollte Modell speziell für einen bestimmten Bereich bevorzugen, anstatt auf allgemein einsetzbare Modelle zu setzen.
• Bietet kontinuierliche Bewertung und nachvollziehbare Workflows.
• Persönliche Berechtigungskontrolle zur Unterstützung von Unternehmensanwendungen.
• Mehrere Apache- und MIT-Entwicklungskomponenten sind verfügbar.
• PhariaEngine kann mit OpenAI-kompatiblen Backends sowie MCP verbunden werden.

Nutzungsbeschränkungen

• Die offizielle Website gibt keine festen Preise an.
• Vorwiegend für Unternehmens- und Regierungsprojekte.
• Die Implementierung und der Trainingsprozess spezialisierter Modelle erfordern ein Fachteam.
• Die vollständige PhariaAI ist keine Open-Source-Plattform.
• Der Pharia-1-Gewichtungsfaktor erlaubt keine beliebige kommerzielle Nutzung.
• Die Souveränitätsfähigkeit muss weiterhin anhand der tatsächlichen Struktur und Verträge überprüft werden.
• Die Qualität des Domänenmodells hängt von den Kundendaten und Experten ab.
• Bei hochriskanten Ausgaben muss die menschliche Verantwortung beibehalten werden.

Grundlegende Informationen

Empfehlungswert

Der Gesamtbewertungswert beträgt 4,4 von 5 Punkten. Aleph Alpha eignet sich für große Organisationen, die Wert auf europäische Souveränität, Modellierung sowie strenge Regulierungen legen. Es handelt sich jedoch nicht um ein kostengünstiges Tool für Einzelpersonen; seine Einführung erfordert langfristige technische und geschäftliche Zusammenarbeit.

Häufige Fragen

Ist Aleph Alpha für Privatnutzer gedacht?

Es richtet sich derzeit hauptsächlich an Unternehmen, Regierungen und öffentliche Einrichtungen und ist kein Produkt für normale Privatpersonen zum Chatten.

Was enthält PhariaAI?

Enthält Anwendungskomponenten wie Assistant, Catch, Studio, OS, Data, Search, Inference und Engine.

Wird die lokale Installation unterstützt?

Es wird sowohl die Hosted- als auch die lokale Implementierung unterstützt; die genaue Infrastruktur, die Modelle sowie die Lizenzen müssen je nach Projekt festgelegt werden.

Wie viel kostet Aleph Alpha?

Die offizielle Website gibt keine Standardpreise an; es ist notwendig, nach den Kosten für die Plattformkomponenten, Modelle, die Bereitstellung sowie den Umfang der Dienstleistungen zu fragen.

Ist das Pharia-1-Modell open source?

Die Gewichte des Modells sind erhältlich, doch die Lizenz erlaubt hauptsächlich nicht-kommerzielle Forschung und Bildung und kann nicht mit freien, kommerziell nutzbaren Open-Source-Modellen gleichgesetzt werden.

Welche offiziellen Open-Source-Projekte gibt es?

Offiziell wurden mehrere Projekte wie PhariaEngine, PhariaSkill, Data und Inference SDK freigegeben; die Lizenzen müssen für jeden Repository einzeln überprüft werden.

Kann man andere große Modelle anschließen?

PhariaEngine unterstützt Aleph Alpha-Reasoning sowie einen mit OpenAI kompatiblen Backend; der Umfang der Plattformmodelle wird vom Administrator konfiguriert.

Wird RAG für Wissensfragen unterstützt?

Unterstützung: PhariaSearch und Data ermöglichen die Erstellung von Dokumentenindizes, semantische Suche sowie die Anwendung überprüfbaren Unternehmenswissens.

Ist die vollständige PhariaAI open source?

Das Nicht-Open-Source-Sein sowie die Offenlegung von SDKs, der Laufzeitumgebung und einiger Modelle bedeutet nicht, dass der gesamte kommerzielle Produktstack unter Open-Source-Lizenz bereitgestellt wird.