APIPark

Was ist APIPark?

APIPark ist ein Open-Source-AI-Gateway sowie ein Entwicklerportal für APIs, das dazu dient, große Modelle, REST-APIs sowie interne Unternehmensdienste zentral anzubinden. Es wurde vom Team von Eolink entwickelt und richtet sich an Entwickler und Unternehmen, die eine einheitliche Steuerung der Modellaufrufe, eine effektive Berechtigungsverwaltung sowie eine gute Verwaltung der API-Ressourcen benötigen.

Das Projekt wird unter der Apache 2.0-Lizenz bereitgestellt. Die Open-Source-Version kann selbst erstellt und gemäß der Lizenz kommerziell genutzt werden. Die Enterprise-Version bietet verbesserte Steuerungsmöglichkeiten, maßgeschneiderte Lösungen sowie professionelle technische Unterstützung.

Kernpositionierung

• Einen einheitlichen Aufrufpunkt für verschiedene große Modelle bereitstellen.
• Die Modelle und Prompt-Wörter werden in eine standardmäßige REST-API eingebettet.
• Zentrale Verwaltung von Anwendungen, Nutzern und API-Schlüsseln.
• Einführung eines internen API-Katalogs sowie eines Abonnierungsprozesses im Unternehmen.
• Über das Gateway werden Weiterleitungen, Lastverteilung und Ausfallüberbrückung durchgeführt.
• Protokollieren Sie Aufrufprotokolle, Traffic- und Kostendaten.
• Gleichzeitig Verwaltung von AI-APIs und herkömmlichen Business-APIs.

Einheitlicher Zugang zu mehreren großen Modellen

Laut den APIPark-Dokumentationen können mehr als 100 KI-Modelle angeschlossen werden, darunter Modelle von OpenAI, Anthropic, AWS Bedrock, Google Gemini sowie zahlreiche inländische Modelldienste. Die tatsächlich vorinstallierten Plattformen und verfügbaren Modelle richten sich nach der Benutzeroberfläche der aktuellen Version.

Einheitliches Modell-API

• Eine einheitliche Struktur für Anfragen und Antworten für verschiedene Anbieter schaffen.
• Verringerung der Abhängigkeit des Geschäftskodens von einem einzigen Modell-SDK.
• Durch die Auswahl der Modellparameter werden verschiedene Anbieter und Modelle ausgewählt.
• Versuchen Sie, die Schnittstellen der oberen Anwendungen bei dem Wechsel des Modells stabil zu halten.
• Zentrale Verwaltung der Zertifizierungsdaten der Lieferanten und der Standardmodelle.
• Die Aufrufe des Modells in einheitliche Protokolle und Kostenstatistiken aufnehmen.

Prompt in API umwandeln

Das Team kann Modelle mit festen Prompten zu eigenständigen AI-Diensten kombinieren, wie z. B. Übersetzung, Emotionalanalyse oder Datenanalyse-Schnittstellen. Die Geschäftsanwendungen müssen lediglich auf die stabile API zugreifen und müssen die Prompte nicht in jeder Anwendung erneut verwalten.

Management von AI-Modellen

• Hinzufügen von Online-Modellanbietern und Zugangsdaten.
• Wählen Sie den Standardanbieter und das Modell für KI-Dienste aus.
• Zentrale Überprüfung der Modell-Lizenzierung und -Nutzung.
• Verwenden Sie einen Schlüssel-Pool, um mehrere Schlüssel desselben Anbieters zu verwalten.
• Konfigurieren Sie die Lastverteilung und den Failover des Modells.
• Anbindung an selbst gehostete Modelle und einheitliche Bereitstellung von Dienstleistungen an Dritte.

API-Gesamtlebenszyklusmanagement

• Entwerfen von APIs sowie deren Anfragen, Antworten und Dokumentation.
• Die Dienste in die Test- oder Produktionsumgebung veröffentlichen.
• Verwaltung von Versionen, Aufrufern und Abonnements.
• Überwachung des Betriebszustands und von Fehlern.
• Benachrichtigen Sie die Verbraucher vor dem Ausstieg und führen Sie den Umzug durch.
• Beibehalten von Änderungs-, Aufruf- und Genehmigungsprotokollen.

API-Entwickler-Portal

Das Entwicklerportal dient dazu, verstreute APIs in einen von Teams suchbaren und anfragbaren Servicekatalog zu ordnen. Verbraucher können Dokumente einsehen, Abonnementanfragen stellen und Autorisierungen erhalten, während die Plattformadministratoren für die Freigabe und Zugriffskontrolle zuständig sind.

Abonnement und Freigabe

• Den Verbrauchern die verfügbaren API-Dienste zur Anmeldung zeigen.
• Stellen Sie einen Abonnementantrag über die Anwendung oder den Mieter.
• Der Leiter des Services prüft den Verwendungszweck.
• Nach der Genehmigung werden Zugriffsschlüssel erstellt oder verknüpft.
• Einschränkung der Dienste, die bestimmten Verbrauchern zur Verfügung stehen.
• Bei Änderungen der Berechtigungen die Abonnementierung widerrufen oder anpassen.

Mehrfachmieterverwaltung

APIPark ermöglicht es mehreren Teams oder Geschäftseinheiten, dieselbe Plattform zu teilen, wobei ihre jeweiligen Dienste, Anwendungen und Abonnements getrennt bleiben. Unternehmen müssen die Grenzen der einzelnen Nutzergruppen entsprechend der Organisationsstruktur festlegen, um zu vermeiden, dass Test- und Produktionsrechte miteinander vermischt werden.

MCP-Dienstleistungsfähigkeit

Die aktuelle Aktualisierungsliste zeigt, dass APIPark System- und Service-Ebene-MCP-Fähigkeiten unterstützt und den Zugang zu Diensten nach den Vorgaben der Nutzer einschränken kann. Es eignet sich dazu, Unternehmens-APIs auf kontrollierte Weise an KI-Agenten zur Verfügung zu stellen.

Datenflussverwaltung und hohe Verfügbarkeit

• Externe und interne Anfragen werden über das Gateway zentral weitergeleitet.
• Lastverteilung zwischen mehreren Upstream- oder Modellanbietern.
• Wechseln auf ein Ersatzmodell, wenn der ursprüngliche Lieferant nicht verfügbar ist.
• Verwenden Sie Cluster-Node, um einen größeren Datenverkehr zu bewältigen.
• Überprüfen Sie die Aufrufe nach Dienst und Verbraucher.
• Nutzen Sie diagnostische Informationen, um die Zeit zur Fehlerortung zu verkürzen.

Protokollierung und Überwachbarkeit

• Protokollieren Sie die Logs für AI- und herkömmliche API-Anfragen.
• Analysieren Sie die Anfragen nach Service, Verbraucher und Zeit.
• Überprüfen Sie die Modellnutzung und den Tokenverbrauch.
• Leiten Sie die Protokolldaten an eine Drittanbieter-Protokollplattform weiter.
• Abweichende Datenmengen und fehlgeschlagene Aufrufe werden über Diagramme erkannt.
• Daten zur Kapazitätsplanung und Kostenteilung bereitstellen.

Für welche Benutzer geeignet

• AI-Entwicklerteams, die mehrere große Modelle gleichzeitig nutzen.
• Technische Abteilungen von Unternehmen, die eigene Modell-Gateways entwickeln müssen.
• Organisationen, die eine zentrale Verwaltung der internen API-Ressourcen anstreben.
• Teams, die künstliche Intelligenz-Agenten entwickeln und kontrollierte Werkzeuge zum Aufrufen benötigen.
• Plattformen, die eine Failover-Funktion für Modelle sowie Kostenstatistiken bieten.
• Unternehmen, die eine Weiterentwicklung auf Basis offener Quellcodes anstreben.

Typische Anwendungsszenarien

• Einen einheitlichen Eingang für große Modelle für mehrere Geschäftsanwendungen bereitstellen.
• Schneller Wechsel zwischen Modellanbietern und Notfallplanung.
• Gewöhnliche Prompt-Wörter in Team-Dienste verpacken.
• Einführung eines internen API-Marktes sowie eines Antragsverfahrens im Unternehmen.
• Genehmigte Geschäftstools werden für Agenten freigegeben.
• Zusammenfassung der Anzahl der Modellaufrufe und der Kosten pro Abteilung.
• Verwaltung traditioneller Microservices und Drittanbieter-APIs.

Für welche Situationen es nicht wirklich geeignet ist

• Persönliche Projekte, bei denen nur ein Modell verwendet wird und keine Governance-Anforderungen bestehen.
• Teams ohne Fähigkeiten in der Verwaltung von Linux, Containern und Datenbanken.
• Benutzer, die ein umfassendes Chat-Produkt mit Modelllimits wünschen.
• Organisationen, die sich die Kosten für die Instandhaltung eigener Infrastrukturen nicht leisten können.
• Wichtige Produktionssysteme, die Unterstützung vom Markt benötigen, aber kein Budget für Einkäufe haben.
• Das Open-Source-Gateway fälschlicherweise als Projekt eines Anbieters großer Modelle angesehen.

Leitfaden zur schnellen Einrichtung

1. Vorbereiten Sie einen unterstützten Linux-Server und überprüfen Sie CPU, RAM und Festplatte.
2. Erstellen Sie eine Sicherung der bereits vorhandenen Datenbanken sowie Container-Konfigurationen auf demselben Host.
3. Lesen Sie die Dokumentation zur Aktivierung der aktuellen Version sowie die Änderungsprotokolle.
4. Führen Sie den offiziellen Schnellinstallations-Skript aus oder wählen Sie Docker Compose.
5. Legen Sie ein starkes Administratorpasswort, ein Datenbankpasswort sowie einen internen Token fest.
6. Nach Abschluss binden und den API-Gateway-Node überprüfen.
7. Beschränken Sie den Zugriff auf die Management-Ports aus dem öffentlichen Netz und aktivieren Sie Sicherheitsrichtlinien.
8. Überprüfen Sie die Weiterleitung, die Protokollierung und die Wiederherstellung nach Neustart durch API-Tests.

Anleitung zur Anbindung an große Modelle

1. Gehen Sie zu der Verwaltung der AI-Modelle in den Systemeinstellungen.
2. Wählen Sie den Anbieter des Modells aus, das verwendet werden soll.
3. Erstellen Sie eine Lieferanten-API-Schlüssel mit minimalen Berechtigungen.
4. Speichern Sie die Anmeldeinformationen in APIPark und wählen Sie das Standardmodell aus.
5. Erstellen Sie AI-Dienste und verbinden Sie Anbieter mit Modellen.
6. Definieren Sie einheitliche Anfragespezifikationen und Rückgabeformate.
7. Dienste veröffentlichen und die Abonnements für Testszenarien freigeben.
8. Überprüfen Sie die Aufrufprotokolle, Token und die Rechnungen des Anbieters.

Tutorial zur Erstellung einer Prompt-API

1. Wählen Sie eine Geschäftsaufgabe mit klaren Grenzen aus.
2. Erstellen Sie wiederverwendbare System-Hinweise und Eingabevariablen.
3. Konfigurieren Sie das Zielmodell, die Temperatur und die Ausgabevorgaben.
4. Speichern Sie die Prompt-Kombinationen als AI-Dienst.
5. Erstellen und Überprüfen der API-Dokumentation.
6. Testen mit normalen, abweichenden und eingefügten Eingaben.
7. Nach der Veröffentlichung werden den Verbrauchern eingeschränkte Rechte gewährt.
8. Iterativ Anweisungen durch Versionsverwaltung anpassen, ohne alte Aufrufe zu zerstören.

Anforderungen an die Bereitstellungskonfiguration

Laut der Dokumentation zu 1.9-beta sind die Mindestanforderungen ein 2-Kern-Prozessor, 4 GB RAM und 200 GB Speicherplatz. Empfohlene Anforderungen sind hingegen ein 8-Kern-Prozessor, 16 GB RAM und ebenfalls 200 GB Speicherplatz. Es werden sowohl die AMD64- als auch die ARM64-Architekturen unterstützt; das Produkt ist in erster Linie für Linux- oder Mac-Umgebungen gedacht.

Software-Abhängigkeiten

Preise für die Open-Source-Version und die Enterprise-Version

Die Open-Source-Version kann unter der Apache 2.0-Lizenz kostenlos und für kommerzielle Zwecke genutzt werden, doch Server, Wartung, Aufruf der Modelle sowie Drittanbieterdienste verursachen weiterhin Kosten. Für die Enterprise-Version wird kein einheitlicher Preis angegeben; es ist notwendig, sich mit dem Team in Verbindung zu setzen, um eine Demonstration, Lösungsvorschläge und Kostenvoranschläge zu erhalten.

Einkauf und Kostenbewertung

• Erheben Sie Statistiken zu den Spitzenwerten der Anfragen, der Konkurrenz sowie der Größe der Tokens.
• Bewertung des Speicherwachstums von Protokollen, Metriken und Backups.
• Berechnen Sie getrennt die Ressourcenkosten des Gateways sowie die Kosten des upstream-Modells.
• Bestätigen Sie die Unternehmensfunktionen, die SLAs sowie den Umfang der Upgradesupport-Leistungen.
• Berücksichtigen Sie die Kosten für mehrere Regionen, Notfallvorsorge und Sicherheitsaudits.
• Reservieren Sie Personal für Wartung und Fehlerbehebung zur Versionsaktualisierung.

Sicherheitshinweise

• Schreiben Sie die Modell-Schlüssel nicht direkt in den Geschäftskodex oder in öffentliche Repositorien.
• Bei der Verwendung eines Pools von Schlüsselressourcen werden Rotation und Zugriffsauditing durchgeführt.
• Beschränkung der Verwaltungsbereiche, der Datenbanken sowie der Ports zur Verwaltung des Gateways.
• Konfigurieren Sie für Mieter, Verbraucher und Anwendungen die minimalen Berechtigungen.
• Es werden Tests für Hintailen, sensible Ausgaben und Aufrufe von Tools mit übermäßigen Berechtigungen durchgeführt.
• Im Produktivumfeld werden Transportschlüsselverschlüsselung, Backups und Alarme aktiviert.

Versionen und Hinweise zu Dokumenten

Die APIPark-Dokumentation behält mehrere Beta-Versionen bei; alte Seiten weisen darauf hin, zu den neueren Dokumenten weitergeleitet zu werden. Bei der Bereitstellung und Konfiguration sollte sichergestellt werden, dass Images, Dokumente und Datenbankstrukturen zur gleichen Version gehören, um eine Verwendung alter Anleitungen zu vermeiden.

GitHub und der Open-Source-Zustand

Sowohl der Hauptspeicher als auch der Dokumentenspeicher von APIPark sind öffentlich zugänglich. Das Hauptprojekt wird unter der Apache 2.0-Lizenz bereitgestellt. Unternehmen können den Code einsehen, Probleme melden und weiterentwickeln – müssen jedoch weiterhin die Lizenzbedingungen, die Lizenzbedingungen für Drittanbieterkomponenten sowie die Markenregeln einhalten.

Vorteile des Produkts

• Open Source und erlaubt die kostenlose kommerzielle Nutzung gemäß der Lizenz.
• Gleichzeitig Abdeckung von AI-Gateways und traditioneller API-Verwaltung.
• Einheitlicher Zugang zu mehreren Modellen und Reduzierung der Anpassungsarbeiten.
• Unterstützung für die Vermarktung von Prompten und ein Entwicklerportal.
• Unterstützt mehrere Mieter, Abonnementfreigabe und Berechtigungskontrolle.
• Es werden Protokolle, Statistiken, Lastverteilung sowie Failover-Funktionen bereitgestellt.
• Man kann eigene Lösungen entwickeln, um die Kontrolle über Daten und Infrastruktur zu stärken.

Nutzungsbeschränkungen

• Eine selbst erstellte Bereitstellung erfordert kontinuierliche Wartung.
• Einige Dokumente und Versionen tragen weiterhin das Beta-Label.
• Dass die Software kostenlos ist, bedeutet nicht, dass die Modelle und Server kostenlos sind.
• Es können weiterhin Unterschiede in der Semantik und den Parametern der verschiedenen Modelle bestehen.
• Höhere Unternehmensfähigkeiten und -unterstützung erfordern einen separaten Kostenvoranschlag.
• Eine falsche Konfiguration des Gateways oder der Schlüssel erhöht das Sicherheitsrisiko.
• Vor der Produktupgrades muss die Datenmigration und Kompatibilität überprüft werden.

Grundlegende Informationen

Empfehlungswert

Der Gesamtbewertungswert beträgt 4,5 von 5 möglichen Punkten. APIPark eignet sich für Teams, die einen eigenen Eingangspunkt für Modelle, ein API-Katalog sowie Funktionen zur Unternehmensverwaltung benötigen. Vor der Inbetriebnahme in der Produktion sollten jedoch insbesondere Stabilität der Versionen, Sicherheitseinstellungen sowie die langfristigen Wartungskosten überprüft werden.

Häufige Fragen

Ist APIPark kostenlos?

Die Lizenz für die Open-Source-Version ist kostenlos, während für die Unternehmensversion, den Modellaufruf sowie die Infrastruktur zusätzliche Gebühren anfallen.

Ist APIPark Open Source?

Ja, das Kernprojekt verwendet die Apache 2.0-Lizenz.

Welche großen Modelle werden unterstützt?

Es ist möglich, mit verschiedenen inländischen und internationalen Online- sowie selbst gehosteten Modellen zu arbeiten; laut den offiziellen Dokumenten werden mehr als 100 Modelle unterstützt.

Kann die OpenAI-Schnittstelle ersetzt werden?

Es kann eine einheitliche Modell-Schnittstelle bieten, doch die Unterschiede in den Modellparametern und Ausgaben müssen weiterhin auf der Anwendungsseite getestet werden.

Welche Konfiguration ist für die Bereitstellung erforderlich?

Mindestens 2 Kerne, 4 GB RAM und 200 GB Festplattenspeicher; in einer Produktionsumgebung wird empfohlen, eine höhere Konfiguration zu verwenden.

Wird MCP unterstützt?

Die aktuelle Aktualisierungsliste umfasst MCP-Fähigkeiten auf System- und Serviceebene sowie Unterstützung für Beschränkungen nach Verbrauchern.

Wie viel kostet die Unternehmensversion?

Es gibt keinen festen offiziellen Preis; es ist notwendig, je nach fortgeschrittenen Funktionen, Größe und Unterstützungsanforderungen ein Angebot anzufragen.

Gibt APIPark kostenlose Modelle?

Ohne eine solche einheitliche Verpflichtung werden die Kosten für das Modell in der Regel vom jeweiligen Anbieter erhoben.

Kann es für kommerzielle Zwecke verwendet werden?

Es kann unter der Apache 2.0-Lizenz verwendet werden, es müssen jedoch weiterhin die Bedingungen der Drittanbieter für Abhängigkeiten sowie der Anbieter der Modelle eingehalten werden.