Ably optimise ses environnements de développement IA avec AWS Agent Sandbox

La société de commerce en ligne Ably a mis en œuvre Amazon Web Services (AWS) Agent Sandbox pour gérer ses environnements de développement IA en interne. L'entreprise utilise Amazon Elastic Kubernetes Service (Amazon EKS) pour créer des espaces de travail isolés permettant à ses employés de concevoir des applications via des commandes en langage naturel.

La gestion du cycle de vie de ces environnements temporaires constituait un défi opérationnel pour l'entreprise. Ably cherchait une solution capable de provisionner automatiquement les ressources lors du lancement d'un projet et de les libérer une fois les tâches terminées. Après avoir évalué les options standards de Kubernetes, telles que les Deployments ou les Jobs, Ably a conclu que ces méthodes nécessitaient trop de configuration manuelle pour automatiser efficacement l'extinction des ressources inutilisées.

En adoptant Agent Sandbox, Ably délègue désormais la gestion des environnements à des contrôleurs spécialisés. L'architecture repose sur Karpenter pour ajuster dynamiquement les ressources du cluster en fonction de la charge. Cette approche permet à l'entreprise de maintenir une isolation stricte entre les projets tout en optimisant sa consommation d'infrastructure informatique.