APIPark

Qu’est-ce que APIPark ?

APIPark est un portail d’API et de passerelle d’IA open source, conçu pour permettre un accès centralisé aux grands modèles, aux API REST et aux services internes des entreprises. Il a été développé par l’équipe Eolink et s’adresse aux développeurs et entreprises qui ont besoin d’une gestion unifiée des appels aux modèles, de la gouvernance des droits d’accès et de la gestion des actifs API.

Le projet est licencié sous la licence Apache 2.0 ; la version open source peut être mise en place par soi-même et utilisée à des fins commerciales conformément à la licence. La version entreprise offre des capacités de gouvernance plus avancées, des solutions sur mesure et un support technique spécialisé.

Positionnement central

• Fournir une entrée d’appel unifiée pour différents grands modèles.
• Emballer le modèle et les prompts en une API REST standard.
• Gestion centralisée des applications, des consommateurs et des clés API.
• Créer un catalogue d’API interne à l’entreprise ainsi qu’un processus de souscription.
• Le redirigement, le chargement équilibré et la bascule en cas de panne sont effectués via un gateway.
• Enregistrer les journaux d’appels, les données de trafic et les coûts.
• Gérer en même temps les API d’IA et les API des services traditionnels.

Accès unifié à plusieurs grands modèles

Selon la documentation d’APIPark, il est possible de se connecter à plus de 100 modèles d’IA, couvrant OpenAI, Anthropic, AWS Bedrock, Google Gemini ainsi que plusieurs services de modèles nationaux. La plateforme pré-intégrée réelle et les modèles disponibles dépendent de l’interface de gestion de la version actuelle.

API du modèle unifié

• Établir une structure de demande et de réponse cohérente pour différents fournisseurs.
• Réduire la dépendance du code métier envers un SDK de modèle unique.
• Choisir différents fournisseurs et modèles en fonction des paramètres du modèle.
• Essayez de maintenir la stabilité des interfaces d’application de niveau supérieur lors du changement de modèle.
• Gérer de manière centralisée les informations d’authentification des fournisseurs et les modèles par défaut.
• Intégrer les appels du modèle dans des statistiques unifiées de journalisation et de coûts.

Mot de suggestion vers API

L’équipe peut combiner le modèle avec des prompts fixes pour créer des services IA indépendants, tels que des interfaces de traduction, d’analyse émotionnelle ou d’analyse de données. Les systèmes métier n’ont qu’à appeler une API stable, sans avoir à maintenir les prompts à chaque application.

Gestion des modèles d’IA

• Ajouter des fournisseurs de modèles en ligne et des identifiants d’accès.
• Sélectionner le fournisseur et le modèle par défaut pour les services d’IA.
• Voir en détail l’autorisation et la consommation du modèle.
• Utiliser un pool de ressources de clés pour gérer plusieurs clés du même fournisseur.
• Configurer le load balancing et la bascule en cas de panne du modèle.
• Se connecter aux modèles auto-hébergés et fournir des services unifiés à l’extérieur.

Gestion du cycle de vie complet de l’API

• Concevoir une API ainsi que ses requêtes, réponses et documentation.
• Déployer le service dans un environnement de test ou en production.
• Gérer les versions, les appelants et les relations de abonnement.
• Surveiller l’état de fonctionnement et les erreurs.
• Informer les consommateurs avant la fin de service et effectuer la migration.
• Conserver les enregistrements de modification, d’appel et d’approbation.

Portail des développeurs API

Le portail des développeurs sert à organiser les API dispersées en un catalogue de services que l’équipe peut rechercher et solliciter. Les utilisateurs peuvent consulter la documentation, soumettre des demandes de souscription et obtenir des autorisations, tandis que les administrateurs de la plateforme sont chargés de l’approbation et du contrôle des permissions.

Abonnement et approbation

• Montrer aux consommateurs les services API auxquels ils peuvent postuler.
• Soumettre une demande de souscription par application ou locataire.
• L’objectif d’utilisation est examiné par le responsable du service.
• Des tokens d’appel sont générés ou associés après approbation.
• Restreindre les services auxquels des consommateurs spécifiques peuvent accéder.
• Annuler ou ajuster l’abonnement en cas de changement de permissions.

Gestion multi-locataires

APIPark permet à plusieurs équipes ou unités commerciales de partager la même plateforme, tout en isolant leurs services, applications et abonnements respectifs. Les entreprises doivent définir des limites de locataire en fonction de leur structure organisationnelle, afin d’éviter de mélanger les droits de test avec ceux en environnement de production.

Capacité de service MCP

Les informations mises à jour actuelles indiquent qu’APIPark prend en charge les capacités MCP au niveau du système et au niveau du service, et permet de définir l’éventail des services accessibles pour chaque consommateur. Il est adapté pour fournir des API d’entreprise aux agents intelligents via des outils contrôlés.

Gestion du trafic et haute disponibilité

• Acheminer de manière unifiée les requêtes externes et internes via le gateway.
• Équilibrer la charge entre plusieurs fournisseurs en amont ou de modèles.
• Passer à un modèle de secours lorsque le fournisseur initial n’est pas disponible.
• Utiliser des nœuds de cluster pour gérer un volume de trafic plus important.
• Voir les appels par service et par consommateur.
• Utiliser les informations diagnostiques pour réduire le temps de localisation des pannes.

Journalisation et observabilité

• Enregistrer les journaux des requêtes d’IA et des API traditionnelles.
• Analyser le nombre d’appels par service, par consommateur et par période.
• Voir la consommation de modèles et l’utilisation des tokens.
• Envoyer les journaux vers une plateforme de journalisation tierce.
• Identifier les flux anormaux et les appels échoués à l’aide de graphiques.
• Fournit des données pour la planification de la capacité et la répartition des coûts.

À qui s’adresse-t-il

• Équipes d’application d’IA utilisant simultanément plusieurs grands modèles.
• Les départements techniques des entreprises qui ont besoin de créer leur propre passerelle de modèles.
• Les organisations qui souhaitent gérer de manière centralisée leurs actifs API internes.
• Équipes qui développent des agents intelligents d’IA et ont besoin d’appels d’outils contrôlés.
• Plateforme nécessitant un basculement en cas de panne du modèle et des statistiques de coûts.
• Les entreprises souhaitant effectuer un développement secondaire sur la base de solutions open source.

Scénarios d'utilisation typiques

• Fournir une entrée unique pour des modèles géants à plusieurs applications métier.
• Passage rapide entre les fournisseurs de modèles et reprise après sinistre.
• Emballer les prompts fréquemment utilisés en service d’équipe.
• Créer un marché d’API interne à l’entreprise ainsi qu’un processus de demande.
• Ouvrir des outils professionnels approuvés pour les agents intelligents.
• Regrouper le nombre d’appels aux modèles et les coûts par département.
• Gestion des microservices traditionnels et des API tierces.

Quand cela ne convient pas vraiment

• Projets personnels qui n’utilisent qu’un seul modèle et ne présentent pas de besoins en gouvernance.
• Équipes dépourvues de compétences en gestion de Linux, de conteneurs et de bases de données.
• Utilisateurs souhaitant un produit de chat tout-en-un incluant des crédits de modèle.
• Les organisations qui ne peuvent pas assumer les coûts de maintenance d’infrastructures qu’elles ont construites elles-mêmes.
• Systèmes de production essentiels qui nécessitent un soutien commercial mais ne disposent pas de budget d’achat.
• Confondre le gateway open source avec un projet de fournisseur de grands modèles.

Tutoriel de déploiement rapide

1. Préparer un serveur Linux pris en charge et vérifier la CPU, la mémoire et le disque.
2. Faire une sauvegarde des configurations de bases de données et de conteneurs existantes sur le même hôte.
3. Lisez la documentation de déploiement de la version actuelle ainsi que le journal des modifications.
4. Exécuter le script d’installation rapide officiel ou choisir Docker Compose.
5. Définir un mot de passe fort pour l’administrateur, un mot de passe pour la base de données et un jeton interne.
6. Une fois terminé, liez et vérifiez le nœud du gateway API.
7. Restreindre l’accès du réseau public aux ports de gestion et activer les politiques de sécurité.
8. Vérifier la restauration par redirigeement, journalisation et redémarrage via des tests API.

Tutoriel pour se connecter à un grand modèle

1. Accédez à la gestion des modèles d’IA dans les paramètres du système.
2. Sélectionnez le fournisseur de modèles à utiliser.
3. Créer une clé API fournisseur avec les droits minimums.
4. Enregistrez les identifiants dans APIPark et sélectionnez le modèle par défaut.
5. Créer un service d’IA et associer les fournisseurs aux modèles.
6. Définir les paramètres de requête unifiés et le format de réponse.
7. Publier le service et finaliser l’approbation de l’abonnement pour l’application de test.
8. Vérifier les journaux d’appel, le token et la facture du fournisseur.

Tutoriel sur la création d’une API de prompts

1. Choisissez une tâche métier aux limites claires.
2. Rédiger des prompts système et des variables d’entrée réutilisables.
3. Configurer le modèle cible, la température et les exigences de sortie.
4. Enregistrer la combinaison de mots-clés en tant que service d’IA.
5. Générer et vérifier la documentation de l’interface.
6. Tester avec des entrées normales, anormales et injectées.
7. Des droits limités sont attribués aux consommateurs après la publication.
8. Itérer sur les prompts grâce à la gestion des versions sans endommager les appels antérieurs.

Exigences de configuration de déploiement

La documentation 1.9-beta indique une configuration minimale de 2 cœurs CPU, 4 Go de mémoire et 200 Go de disque, tandis que la configuration recommandée est de 8 cœurs CPU, 16 Go de mémoire et 200 Go de disque. Elle prend en charge les architectures AMD64 et ARM64, et s’adresse principalement aux environnements Linux ou Mac.

Dépendances logicielles

Prix de la version open source et de la version entreprise

La version open source peut être utilisée gratuitement et à des fins commerciales sous la licence Apache 2.0, mais les serveurs, l’exploitation, l’appel des modèles et les services tiers entraînent néanmoins des coûts. Aucun montant fixe n’a été communiqué pour la version entreprise ; il est nécessaire de contacter l’équipe pour obtenir une démonstration, une proposition et un devis.

Achat et évaluation des coûts

• Statistiques sur le nombre maximal de requêtes, la concurrence et la taille des tokens.
• Évaluer la croissance de l’espace de stockage des journaux d’évaluation, des indicateurs et des sauvegardes.
• Calculez séparément les ressources du gateway et les coûts du modèle upstream.
• Vérifier les fonctionnalités de l’entreprise, les SLA et la portée du support de mise à niveau.
• Prenez en compte les coûts multi-régionaux, de reprise après sinistre et d’audit de sécurité.
• Réserver du personnel d’exploitation pour les mises à niveau de version et la gestion des pannes.

Précautions de sécurité

• Ne pas écrire directement la clé du modèle dans le code métier ou dans un dépôt public.
• Mettre en œuvre la rotation et l’audit des accès lors de l’utilisation d’un pool de ressources de clés.
• Restreindre les ports d’administration du panneau de gestion, de la base de données et du gateway.
• Attribuer aux locataires, aux consommateurs et aux applications les droits minimaux nécessaires.
• Tester l’injection de prompts, les sorties sensibles et les appels d’outils hors limites.
• Activez le chiffrement des transferts, les sauvegardes et les alertes dans l’environnement de production.

Notes sur les versions et les documents

La documentation APIPark conserve plusieurs versions bêta ; les anciennes pages indiqueront un lien vers la documentation plus récente. Lors du déploiement et de la configuration, il convient de s’assurer que l’image, la documentation et la structure de la base de données correspondent à la même version, afin d’éviter l’utilisation mixte de tutoriels anciens.

GitHub et l’état open source

Les entrepôts principaux et les dépôts de documentation d’APIPark sont tous deux accessibles au public, et le projet principal est licencié sous la licence Apache 2.0. Les entreprises peuvent consulter le code, soumettre des questions et effectuer des développements secondaires, mais doivent néanmoins respecter la licence, les licences des composants tiers et les règles relatives aux marques déposées.

Avantages du produit

• Open source et permettant une utilisation commerciale gratuite selon la licence.
• Couvre à la fois les passerelles d’IA et la gouvernance des API traditionnelles.
• Intégrer de manière unifiée plusieurs modèles et réduire le travail d’adaptation.
• Soutien au service des prompts et au portail des développeurs.
• Prend en charge le multi-locataires, l’approbation des abonnements et la gestion des droits.
• Fournit des journaux, des statistiques, un équilibrage de charge et une bascule en cas de panne.
• Il est possible de créer ses propres systèmes pour renforcer le contrôle des données et des infrastructures.

Restrictions d'utilisation

• Une mise en œuvre personnalisée nécessite une maintenance continue.
• Certains documents et versions portent encore l’indication beta.
• Le fait que le logiciel soit gratuit ne signifie pas que les modèles et les serveurs le soient aussi.
• Les significations et les paramètres des différents modèles peuvent encore présenter des différences.
• Les capacités et le soutien d’entreprise avancés nécessitent un devis séparé.
• Une configuration incorrecte du gateway ou de la clé augmente les risques pour la sécurité.
• Il est nécessaire de valider la migration des données et la compatibilité avant la mise à niveau de la production.

Informations de base

Indice de recommandation

L’indice de recommandation global est de 4,5 sur 5. APIPark convient aux équipes qui ont besoin d’un point d’accès unique pour leurs modèles, d’un catalogue d’API et de capacités de gouvernance d’entreprise, mais il convient de vérifier en détail la stabilité des versions, les paramètres de sécurité et les coûts de maintenance à long terme avant de le mettre en production.

Questions fréquentes

APIPark est-il gratuit ?

La licence de la version open source est gratuite, tandis que la version entreprise, l’appel des modèles et l’infrastructure nécessitent un paiement supplémentaire.

APIPark est-il open source ?

Oui, le projet principal est sous licence Apache 2.0.

Quels grands modèles sont pris en charge ?

Il est possible de se connecter à de nombreux modèles en ligne et auto-hébergés, nationaux et internationaux ; la documentation officielle indique que plus de 100 modèles sont pris en charge.

Peut-on remplacer l’interface OpenAI ?

Il peut fournir une interface de modèle unifiée, mais les paramètres du modèle et les différences de sortie nécessitent encore des tests du côté de l’application.

Quelle configuration est nécessaire pour le déploiement ?

Au minimum, 2 cœurs, 4 Go de mémoire et 200 Go de disque ; pour un environnement de production, il est recommandé d’utiliser des configurations plus élevées.

Est-ce que MCP est pris en charge ?

Le journal des mises à jour actuel comprend les capacités MCP au niveau du système et au niveau du service, et prend en charge la limitation par consommateur.

Combien coûte l’édition entreprise ?

Il n’y a pas de montant fixe public ; il est nécessaire de demander un devis en fonction des fonctionnalités avancées, de l’échelle et des besoins en support.

APIPark offre-t-il des crédits de modèles ?

En l’absence d’un tel engagement unifié, les frais de modélisation sont généralement facturés par le fournisseur concerné.

Peut-on l’utiliser à des fins commerciales ?

Il peut être utilisé sous la licence Apache 2.0, mais il est toujours nécessaire de respecter les conditions relatives aux dépendances tierces et aux fournisseurs de modèles.