Anyscale

Qu’est-ce qu’Anyscale ?

Anyscale est une plateforme unifiée de calcul pour l’IA et l’apprentissage automatique, créée par l’équipe fondatrice de Ray, destinée aux développeurs et entreprises qui ont besoin d’exécuter des charges de travail Ray à grande échelle. Elle ajoute à Ray, qui est open source, une infrastructure gérée, un temps d’exécution optimisé, des fonctionnalités d’observabilité, des mécanismes de gouvernance et des outils de développement.

La plateforme peut s’étendre du développement interactif au traitement des données, à l’entraînement de modèles, à l’inference en batch et aux services en ligne. Les utilisateurs peuvent soit utiliser rapidement les ressources hébergées par Anyscale, soit déployer le plan de données dans leur propre cloud ou environnement Kubernetes.

La relation entre Anyscale et Ray

Ray est un framework de calcul distribué open source qui gère le planification des tâches, les Acteurs, la tolérance aux pannes, l’élargissement et le rétrécissement automatiques, ainsi que des bibliothèques telles que Ray Data, Ray Train et Ray Serve. Les développeurs peuvent installer et gérer Ray eux-mêmes.

Anyscale est une plateforme de hébergement commerciale qui exécute les charges de travail Ray à l’aide d’une version optimisée d’Anyscale Runtime, et gère le cycle de vie des clusters, le cache des images, la surveillance ainsi que l’opération et la maintenance. Le code Ray existant peut généralement être migré avec peu de modifications, mais les services de la plateforme ne sont pas équivalents au Ray open source lui-même.

Fonctionnalités principales d’Anyscale

Développement interactif d’espaces de travail

Les espaces de travail offrent VS Code hébergé, JupyterLab et une terminal web, permettant aux développeurs de se connecter directement à un cluster Ray pour effectuer des expériences. Il est également possible de se connecter aux espaces de travail depuis VS Code ou Cursor en local.

Tâches de production Jobs

Anyscale Jobs est utilisé pour soumettre des applications Ray en production, telles que le traitement de données, l’entraînement de modèles et l’inference par lots. La plateforme s’occupe de créer des clusters, de surveiller les tâches, de conserver les journaux, et prend en charge la gestion des échecs, les tentatives de réessai, les files d’attente et l’exécution planifiée.

Services en ligne

Les services Anyscale, basés sur le modèle de gestion Ray Serve et les applications Python, offrent une haute disponibilité ainsi que la possibilité de mises à jour sans interruption. Plusieurs modèles peuvent partager l’infrastructure et s’adapter en fonction de la charge des requêtes.

Agrandissement/réduction automatique

La plateforme peut ajouter ou libérer des ressources CPU et GPU en fonction des différents types de nœuds de travail, et prend en charge les instances sur demande, Spot et réservées. Une configuration adéquate du nombre minimal et maximal de copies permet d’équilibrer disponibilité et coûts.

Planification unifiée et files d’attente

Le planificateur Anyscale peut allouer des ressources de calcul entre les Jobs, les Services et les Workspaces, et utiliser des priorités et des files d’attente pour contrôler les accélérateurs coûteux. Les administrateurs peuvent organiser des stratégies de fallback entre les environnements réservés, Spot, sur demande et partiels.

Gestion de conteneurs et de dépendances

Les utilisateurs définissent l’environnement des charges de travail à l’aide d’images de conteneurs et de configurations de calcul ; la plateforme crée et met en cache des images optimisées. Le cache accélère le démarrage des nouveaux nœuds, permettant au cluster de s’adapter plus efficacement.

Surveillance et débogage

La console fournit des espaces de travail, des tâches, des services, ainsi que des journaux, des métriques et des tableaux de bord pour les clusters Ray. Les utilisateurs peuvent également définir leurs propres métriques ou relier des données à des systèmes d’observabilité existants.

Suivi des coûts

L’administrateur de l’organisation peut consulter les estimations d’utilisation par cloud, projet, utilisateur, type d’instance et cluster, ainsi que télécharger des détails. La fonction de budget offre des alertes quotidiennes ou mensuelles, mais il s’agit de limites souples qui ne mettent pas automatiquement fin au cluster.

CLI, SDK et API

Les développeurs peuvent utiliser la ligne de commande, le SDK Python et l’API pour soumettre des tâches, gérer les clusters et intégrer CI/CD. Les identifiants automatisés doivent être stockés dans un système de gestion de clés et respecter le principe du moindre privilège.

Capacités de l’IA générative

Raisonnement en ligne des LLM

Anyscale combine Ray Serve et vLLM pour offrir des services de modèles de langage de grande taille, en se concentrant sur l’optimisation du débit, des délais et de l’utilisation des GPU. Une mise en production réelle nécessite néanmoins des tests de charge avec du trafic réel et une planification de la capacité.

Ajustement fin et entraînement distribué

Ray Train et les ressources de cluster peuvent être utilisés pour l’entraînement et le fine-tuning de modèles multi-GPU. L’équipe doit d’abord valider le code, les points de sauvegarde et les processus de restauration à l’aide de données en petite quantité, avant d’augmenter les ressources.

Inference par lots et données multimodales

Ray Data peut traiter en parallèle du texte, des images et d’autres données, et est adapté aux embeddings à grande échelle, aux prédictions hors ligne et au nettoyage de données. Le pipeline doit enregistrer la version d’entrée, la version du modèle et les données défaillantes.

Processus RAG

La plateforme permet de diviser les documents, d’y intégrer des données et d’écrire dans une base de vecteurs à l’aide de Ray Data, puis de déployer des composants de recherche en ligne et de génération via Services. L’indexation hors ligne et les services en ligne peuvent être étendus ou réduits indépendamment.

Agents d’IA et MCP

Les développeurs peuvent organiser des workflows à un ou plusieurs agents sur Ray, et déployer les serveurs MCP via Ray Serve. Chaque service d’outil peut être échelonné, équilibré en charge et résilient de manière indépendante.

Guide d'utilisation d’Anyscale

1. Créez une organisation pour obtenir le crédit d’essai actuellement disponible.
2. Choisissez Hosted ou BYOC en fonction de l’emplacement des données et des exigences du réseau.
3. Créer des Cloud et des Projets pour définir les limites des équipes et des environnements.
4. Préparer l’image du conteneur, les dépendances Python et les variables d’environnement.
5. Définir la CPU, la GPU, les types de nœuds et les limites d’extension automatique.
6. Exécuter une application Ray à petite échelle dans Workspace et consulter les journaux.
7. Soumettez le code stable en tant que Job, et configurez les tentatives de réessai, la file d’attente ou un planning horaire.
8. Lorsqu’une inférence en ligne est nécessaire, déployez l’application en tant que Service et configurez des copies.
9. Accès à la surveillance, aux alertes, aux droits d’identification et aux processus CI/CD.
10. Vérifier en permanence les coûts à l’aide du tableau de bord de consommation et fermer en temps opportun les ressources inutilisées.

Modes de déploiement pris en charge

À qui s’adresse-t-il

• Chercheurs en IA et scientifiques des données : extension des expériences et entraînement des modèles.
• Ingénieur en apprentissage automatique : faire passer les applications Ray du développement à la production.
• Équipe d’ingénierie des données : exécution du traitement de grandes quantités de données et du raisonnement par lots.
• Équipes MLOps et DevOps : unification des processus de calcul, d’autorisation, de surveillance et de déploiement.
• Équipe d’IA générative : déploiement de LLM, RAG, agents et pipelines multimodaux.
• Équipes de plateformes d’entreprise disposant d’une infrastructure nuageuse ou Kubernetes.

Avantages du produit

• Construit par l’équipe fondatrice de Ray, il offre une optimisation approfondie pour les charges de travail Ray.
• Les espaces de travail, les jobs et les services partagent des configurations similaires, assurant une transition plus fluide du développement à la production.
• Prend en charge des clusters hybrides CPU et GPU de différents types, le basculement sur Spot et l’élargissement/resserrage automatique.
• Hosted convient pour un démarrage rapide, BYOC répond aux exigences de localisation des données et au réseau d’entreprise.
• Journalisation intégrée, indicateurs, répartition des coûts et gestion des droits au niveau de l’organisation.

Restrictions d'utilisation et précautions

• Anyscale s’adresse principalement aux équipes techniques familières avec Python, les conteneurs, les ressources cloud et Ray.
• La facturation au forfait peut augmenter rapidement en fonction de l’expansion ou du rétrécissement du cluster ; il convient donc de définir des limites de ressources et des alertes de frais.
• Le budget est une limite souple ; son dépassement ne met pas automatiquement fin au cluster ou au service.
• Les Anyscale Credits affichés sur la page des prix et la facture finale en dollars peuvent varier en fonction du contrat et du mode de déploiement.
• Le BYOC nécessite toujours que le client configure les droits cloud, le réseau, Kubernetes et les responsabilités de sécurité.
• Les services de production doivent disposer de plusieurs copies, être distribués sur différents domaines en cas de panne, et faire l’objet de tests de charge ; on ne peut pas se fier uniquement aux paramètres par défaut.
• Avant que les codes clients, les modèles et les données n’entrent sur la plateforme, il convient d’examiner le contrat, le DPA ainsi que l’annexe relative à la sécurité des données.

Prix d’Anyscale

Au 26 août 2026, Anyscale propose un modèle de facturation au forfait ou par contrat d’engagement, sans frais mensuels fixes. La page des nouveaux comptes indique actuellement l’attribution de 100 dollars en Anyscale Credits ; les conditions d’éligibilité et la durée de validité sont indiquées sur la page d’inscription.

Ce sont les taux de référence des Anyscale Credits affichés sur le site officiel ; ils ne doivent pas être considérés directement comme le prix total d’un projet complet. La facture réelle dépend également du nombre de nœuds, de la durée de fonctionnement, du mode de déploiement, des ressources cloud, du stockage, du réseau, des remises et du contrat.

Abonnement payant et contrat à engagement

• Facturation à l’usage : calculée en fonction de l’utilisation réelle, adaptée aux tests et aux charges de travail variables.
• Contrat de engagement : destiné aux volumes stables ou importants, permet d’obtenir des réductions pour volume et des avantages de soutien.
• Hébergement : Anyscale fournit le calcul et le règlement mensuel par carte de crédit.
• BYOC : utilisation des ressources cloud du client, avec possibilité de paiement via le marché cloud ou Anyscale.

Sécurité et emplacement des données

Anyscale adopte une architecture à deux plans, séparant le plan de contrôle du plan des données du client. Dans le cadre du BYOC, les clusters Ray s’exécutent sur le compte cloud du client ou sur un cluster Kubernetes, et les données peuvent être conservées dans la région choisie.

La documentation officielle indique que la plateforme est conforme à SOC 2 Type 2, et le Trust Center mentionne également une certification ISO 27001. Ces certifications ne peuvent pas remplacer les configurations propres du client en matière d’IAM, de réseau, de clés, de journalisation et de classification des données.

Statut open source

Ray est un framework open source, tandis que la plateforme Anyscale et le runtime d’optimisation sont des produits commerciaux ; il ne faut pas les confondre. Choisir Anyscale ne signifie pas que tous les composants de la plateforme puissent être déployés par soi-même.

L’organisation GitHub officielle d’Anyscale met à disposition des tutoriels, des modèles, des modules Terraform, des charts Helm et certains projets d’intégration. Ces dépôts publics sont soumis à leurs propres licences, mais ne représentent pas l’ouverture source complète de la plateforme Anyscale.

Questions fréquentes

Est-il possible d’essayer Anyscale gratuitement ?

Oui. Le site officiel propose actuellement 100 dollars en Anyscale Credits pour commencer à tester, les conditions d’éligibilité, la durée de validité et les ressources disponibles dépendent de l’inscription d’un compte.

Quelle est la différence entre Anyscale et Ray ?

Ray est un framework de calcul distribué open source ; Anyscale est une plateforme commerciale qui propose, sur Ray, des clusters gérés, un runtime optimisé, des outils de surveillance, de gouvernance et de production.

Peut-on le déployer dans sa propre cloud ?

Oui. BYOC prend en charge les environnements Kubernetes cloud ou locaux des clients, et permet d’utiliser AWS, Azure, Google Cloud ainsi que diverses méthodes de paiement des marchés cloud.

Quelles charges de travail d’IA Anyscale prend-elle en charge ?

Prend en charge les charges de travail Ray telles que le traitement des données, l’entraînement distribué, l’inférence par lots, les services de modèles en ligne, les LLM, RAG, le traitement multimodal, les agents IA et MCP.

Comment Anyscale facture-t-elle ?

Des tarifs à l’usage ou des contrats à engagement sont utilisés, sans frais mensuels fixes. Les coûts réels dépendent du type de ressources, du nombre de nœuds, de la durée, du mode de déploiement, des coûts cloud et des remises contractuelles.

Anyscale est-elle une plateforme open source ?

Ce n’est pas une plateforme entièrement open source. Ce qui est open source, c’est Ray ainsi que certains tutoriels officiels et dépôts d’intégration publiés ; la plateforme Anyscale et le runtime d’optimisation sont des produits commerciaux.