Agents-Flex

Was ist Agents-Flex?

Agents-Flex ist ein Open-Source-Framework für die Entwicklung von KI-Anwendungen und Agenten, das sich an Java-Entwickler richtet. Es zerlegt Modelleinsätze, Tools, Agenten, RAG, MCP, Skills, Text2SQL sowie multimodale Fähigkeiten in Module, die nach Bedarf kombiniert werden können.

Das Framework ist nicht auf Spring angewiesen und kann in herkömmlichem Java, Spring Boot sowie anderen JVM-Technologiestacks verwendet werden. Die meisten Kernmodule unterstützen JDK 8 und neueren Versionen, während MCP-Module derzeit JDK 17 oder eine neuere Version erfordern.

Hauptfunktionen von Agents-Flex

1. Einheitliche Modellaufrufe

Interfaces wie ChatModel, EmbeddingModel, ImageModel und RerankModel dienen dazu, die Unterschiede zwischen verschiedenen Anbietern zu überbrücken. Sowohl normale als auch fließende Antworten teilen sich die Prompt-Wörter, Optionen, den Kontext sowie die Interceptor-Mechanismen.

2. Tool Calling

Entwickler können mithilfe von Annotation-Scanning oder Code-Building Java-Business-Methoden als Modellwerkzeuge bereitstellen. Die Ergebnisse der Werkzeugausführung können in Form von Dialogen zurückgegeben werden, und sie können auch mit dem Laufzeitkonfigurations- sowie Plugin-System verbunden werden.

3. Agent-Verlauf

Das Framework bietet ReAct, Routing, Aufgabenplanung, Unteragenten, manuelle Freigabe, Budgetierung, Wiederholungsversuche sowie einen Ereignisfluss. Beim Ausführen von Aufgaben können Snapshots gespeichert werden, um nach einer Pause, einem externen Aufruf oder einem Abbruch des Prozesses wieder fortgesetzt werden zu können.

4. RAG-Wissensdatenbank

Das Laden, Analysieren, Aufteilen, Vektorisieren, Suchen und Neuordnen von Dokumenten bildet die vollständige RAG-Kette. Der Vektor-Speicher ist für Systeme wie Redis, Qdrant, Chroma, Pgvector, MariaDB, Milvus, OpenSearch und Elasticsearch geeignet.

5. MCP-Client

Das MCP-Modul kann über standardmäßige Eingabe/Ausgabe-Verbindungen, HTTP SSE sowie streambasierte HTTP-Verbindungen mit externen Diensten kommunizieren und entfernte Tools in Agents-Flex-Tools umwandeln. Für dieses Modul ist eine JDK-Version ab 17 erforderlich.

6. Fähigkeitspakete

Skills organisiert Anleitungen, Skripte und Ressourcen in einer Dateistruktur, die aus lokaler oder entfernter Speicherung abgerufen und nach Bedarf geladen werden kann. Skripte können lokal, in OpenSandbox oder in einer zentralen AIO Sandbox ausgeführt werden.

7. Text2SQL

Das Text2SQL-Modul ermöglicht es, Datenquellen aufzulisten, die Struktur der Tabellen schrittweise zu erfassen und Abfragen zu erstellen. Das Framework bietet read-only-SQL-Prüfungen, Parameterbeschränkungen, eine Begrenzung der Anzahl der Ergebnisse, Tenant-Isolation sowie Erweiterungspunkte für die Auditing-Funktionen.

8. Multimodalität und Dokumente

Das Bildmodul umfasst Funktionen zur Erstellung und Bearbeitung von Bildern, das Audiomodul unterstützt die Sprachsynthese und -erkennung, während das Videomodul asynchrone Aufgaben verwendet. OCR kann mit Baidu Smart Cloud, Gitee AI und MinerU verbunden werden, um Bilder oder PDF-Dateien zu analysieren.

9. Beobachtbarkeit und Produktionssteuerung

Das Framework kann Modelle, Agenten, Tools sowie asynchrone Aufgaben miteinander verbinden und Verzögerungen, Tokens sowie den Status überwachen. Die Modellroutierung unterstützt Lastverteilung, Wiederholungsversuche, Schutzmechanismen sowie einen halboffenen Wiederaufbau; die Überwachungsfunktionen basieren auf OpenTelemetry.

Für welche Entwickler geeignet

• Es wird erwartet, dass Backend-Teams mehrerer großer Modelle in Java-Diensten integriert werden.
• Projekte, bei denen eine Unternehmenswissensdatenbank, ein intelligenter Kundenservice sowie die Analyse von Sprachdaten erstellt werden müssen.
• Entwickler, die komplexe Aufgaben mit MCP, Skills und Unteragenten organisieren möchten.
• Unternehmen mit Produktionsanforderungen hinsichtlich der Wiederherstellung langfristiger Aufgaben, der Freigabe, des Budgets und der Überwachbarkeit.
• Multimodale Anwendungen, die eine einheitliche Java-Schnittstelle für Bilder, Sprache, Video und OCR benötigen.
• Teams, die bereits ein Spring Boot-System haben, aber nicht an einen einzigen Anbieter für Modelle gebunden sein möchten.

Laufumgebung und Modulanforderungen

• Die meisten Kernmodule unterstützen JDK 8 oder eine neuere Version.
• Das MCP-Modul erfordert JDK 17 oder eine neuere Version.
• Das Projekt nutzt Maven zur Organisation der Abhängigkeiten und kann BOMs, aggregierte Abhängigkeiten oder einzelne Module einbeziehen.
• Einfache Java-Anwendungen können ohne Spring verwendet werden.
• Spring Boot-Projekte können mit den offiziellen Starters für eine häufige automatische Konfiguration genutzt werden.
• JDBC und Redis können zur Persistenz von Agenten- und asynchronen Aufgabenzuständen verwendet werden.

Kosten und Lizenzen

Stand dem 24. August 2026 ist das Agents-Flex-Framework selbst kostenlos und open source; das offizielle Repository wird unter der Apache License 2.0 bereitgestellt. Auf der offiziellen Website werden keine Preise für Cloud-Pakete oder kommerzielle Abonnements angegeben.

In der praktischen Anwendung können weiterhin Kosten für Modelle-APIs, Vektordatenbanken, Suchdienste, Objektspeicher, OCR, Sprachverarbeitung, Video- und Sandbox-Ressourcen entstehen. Für jeden externen Dienst müssen die Limits, Preise, Datenrichtlinien sowie regionale Einschränkungen separat überprüft werden.

Häufige Kostenposten

• Chatten, Embedding, Umordnen und Aufruf von Bildmodellen.
• Vektor-Datenbanken mit Verwaltungsservice und Suchclustern.
• OCR, Spracherkennung, Sprachsynthese und Videoerstellungsdienste.
• Die für den Agenten erforderlichen Server, Datenbanken und Redis.
• Container oder Sandbox-Plattformen, die für die isolierte Ausführung von Skills erforderlich sind.
• Protokolle, Metriken, Trace-Informationen und Langzeitspeicherung von Daten.

Schneller Einstiegsleitfaden

1. Wählen Sie die JDK-Version entsprechend den benötigten Modulen aus; bei Verwendung von MCP sollten mindestens JDK 17 vorhanden sein.
2. Fügen Sie im Maven-Projekt die Agents-Flex BOM oder die Abhängigkeiten des Zielmoduls hinzu.
3. Wählen Sie den Modelladapter aus und konfigurieren Sie über Umgebungsvariablen die Service-Adresse, den Modellnamen sowie den Schlüssel.
4. Führen Sie zunächst eine einfache Synchronisierung oder einen fließenden Dialog durch, um zu überprüfen, ob die Authentifizierung sowie die Fehlerbehandlung ordnungsgemäß funktionieren.
5. Fügen Sie nach Bedarf Memory-, Tool-, RAG-, MCP- oder Agent-Module hinzu.
6. Für externe Aufrufe können Zeitlimits, Wiederholungsversuche, Limitierungen sowie Gebührenobergrenzen festgelegt werden.
7. Überprüfen Sie im Testumfeld die Rechte der Tools, die Eingabe von Anweisungen sowie die Wiederherstellung bei Fehlern.
8. Aktivieren Sie OpenTelemetry oder benutzerdefinierte Protokollierung, um Verzögerungen, Token sowie den Status der Aufgaben zu überwachen.
9. Bevor die Produktion eingeführt wird, müssen die Abhängigkeitsversionen festgelegt und eine Sicherheitsprüfung durchgeführt werden.

Leitfaden zur Erstellung einer RAG-Anwendung

1. Bestimmen Sie die Quellen des Wissens, die Aktualisierungsfrequenz und die Zugriffsrechte.
2. Laden Sie PDFs, Office-Dokumente, HTML-Dateien oder andere Dokumente und extrahieren Sie den Text.
3. Teilen Sie den Inhalt gemäß der Dokumentstruktur auf und behalten Sie Titel, Quellenangaben sowie Berechtigungsmetadaten bei.
4. Wählen Sie das Embedding-Modell aus, um die Vektoren in einen geeigneten Vektor-Speicher zu schreiben.
5. Suchen Sie nach passenden Abschnitten anhand der Fragen der Benutzer und verbessern Sie die Relevanz durch Reranking.
6. Nur die notwendigen Abschnitte und Zitaten werden an den ChatModel übermittelt.
7. Für Antworten mit geringer Zuverlässigkeit wird ein Mechanismus zur Ablehnung oder manuellen Aufwertung eingeführt.
8. Verwenden Sie reale Probleme, um Recall, Genauigkeit, Verzögerung und die Kosten des Modells zu bewerten.

Sicherheitsempfehlungen für die Erstellung von Agenten

• Standardmäßig werden nur die minimalen Berechtigungen verwendet; Schreib-, Lösch- und Übertragungsaktionen erfordern eine Genehmigung.
• Legen Sie für jede Aufgabe Schrittanzahl, Token, Kosten und Zeitbudget fest.
• Unzuverlässige Dateien und Skripte sollen in einer isolierten Sandbox ausgeführt werden.
• Text2SQL verwendet vorzugsweise Leserechte für die Datenbankkonten und beschränkt die Anzahl der Ergebnisse.
• Der MCP-Dienst sollte die Herkunft, Berechtigungen und die Sicherheit der Übertragung überprüfen.
• Vermeiden Sie bei persistierenden Snapshots und Ereignissen die Erfassung von Schlüsseln sowie sensiblen Originaltexten.
• Idempotente Operationen werden zur Wiederholung und Wiederherstellung konzipiert, um doppelte Abrechnungen oder doppelte Schreibvorgänge zu verhindern.

Vorteile des Produkts

• Eigentlich für Java entwickelt – die Kernmodule können auf älteren JDK-Versionen ausgeführt werden.
• Die Module sind klar getrennt, sodass nur die Funktionen eingeführt werden, die das Projekt tatsächlich benötigt.
• Es ist keine Verpflichtung zur Nutzung von Spring vorhanden, wobei gleichzeitig eine schnelle Integration mit Spring Boot gewährleistet wird.
• Von Modellen, RAG und MCP bis hin zu wiederherstellbaren Agenten und Beobachtungsfähigkeiten.
• Unterstützung für verschiedene inländische und ausländische Modelle, Datenbanken sowie multimodale Dienste.
• Die Apache 2.0-Lizenz eignet sich dafür, dass Unternehmen sie gemäß den Compliance-Anforderungen nutzen und anpassen können.

Einsatzbeschränkungen und Hinweise

• Das Framework ist keine sofort einsetzbare Visualisierungs-AI-Plattform und erfordert Java-Entwicklungs- sowie Wartungskompetenzen.
• Die Parameter der Anpasser für verschiedene Modelle, die reaktiven Eigenschaften sowie die Fähigkeit zur Aufrufung von Tools können unterschiedlich sein.
• Die JDK-Anforderungen für das MCP-Modul sind höher als bei den meisten Kernmodulen; vor der Aufwertung alter Projekte muss dies geprüft werden.
• Externe Modelle und Infrastrukturkosten sind nicht im Open-Source-Framework enthalten.
• Agenten, Skripte und Text2SQL können echte Nebenwirkungen haben; daher ist eine Zugriffskontrolle unerlässlich.
• Es gibt viele Module; bei einer Aktualisierung sollten die Änderungsprotokolle überprüft und Regressionstests durchgeführt werden.
• Offene Lizenzen gelten nicht automatisch für verbundene Modelle, Materialien und Drittanbieter-SDKs.

Erklärung zur Open-Source-Lage

Das Hauptlager von Agents-Flex macht den Quellcode öffentlich und verwendet ausdrücklich die Apache License 2.0, wodurch das Framework selbst als Open Source eingestuft werden kann. Bei der Verwendung und Weiterverbreitung müssen die Urheberrechts-, Lizenz- und Patentbestimmungen der Lizenz eingehalten werden.

Modelle für Rahmenanpassung, OCR, Suchfunktionen, Vektordatenbanken sowie Sandbox-Dienste haben jeweils eigene Lizenzen und Geschäftsbedingungen. Die Nutzung dieser Dienste bedeutet nicht, dass die entsprechenden Plattformen ebenfalls open source oder kostenlos sind.

Häufige Fragen

Muss Agents-Flex Spring verwenden?

Das ist nicht notwendig. Die Kernmodule können in herkömmlichem Java ausgeführt werden, wobei Spring Boot Starter die Integration in bestehende Projekte erleichtert.

Welche JDK-Versionen werden unterstützt?

Die meisten Module unterstützen JDK 8 und neuer, während das MCP-Modul derzeit JDK 17 und neuer erfordert.

Kann man eine RAG-Wissensdatenbank erstellen?

Ja. Das Framework bietet Module für Dokumentenauswertung, Aufteilung, Embedding, Vektorlagern, Suchen und Neuordnen.

Ist Agents-Flex kostenlos?

Der Rahmen selbst ist kostenlos und open source, doch die damit verbundenen Modelle, Datenbanken, Suchfunktionen, OCR-Tools sowie Sandbox-Dienste können Gebühren verursachen.

Kann es für Geschäftsprojekte verwendet werden?

Die Apache 2.0-Lizenz erlaubt die kommerzielle Nutzung, erfordert jedoch die Beibehaltung der entsprechenden Angaben sowie eine gesonderte Überprüfung der Bedingungen für Drittanbieter-Abhängigkeiten und Modellservices.

Zusammenfassung

Agents-Flex eignet sich für Entwicklerteams, die Modelle zur Aufrufverwaltung, RAG sowie wiederherstellbare Agenten mithilfe von Java-Modulen erstellen möchten. Seine Funktionalitäten sind recht umfassend, doch für die praktische Einsetzung ist es dennoch notwendig, das richtige JDK auszuwählen, die Rechte der Tools zu steuern, externe Kosten zu berücksichtigen und die Abhängigkeiten ständig zu warten.