Ably optimerar AI-miljöer med AWS Agent Sandbox
E-handelsplattformen Ably använder Amazon EKS och Agent Sandbox för att effektivisera livscykelhanteringen av sina AI-drivna utvecklingsmiljöer.
E-handelsföretaget Ably har implementerat Amazon Web Services (AWS) Agent Sandbox för att hantera sina interna miljöer för AI-utveckling. Genom att integrera Amazon Elastic Kubernetes Service (Amazon EKS) med Agent Sandbox kan Ably skapa isolerade arbetsytor där personalen kan utveckla och testa applikationer via naturligt språk.
Kärnproblemet för Ably var att hantera resurser för temporära projektfiler och körningsverktyg. Företaget behövde ett sätt att automatiskt skapa och avveckla miljöer för att undvika onödiga kostnader och resursförbrukning. Traditionella metoder som Kubernetes Jobs eller Deployments visade sig otillräckliga då de krävde omfattande manuell konfiguration för livscykelhantering.
Genom att använda Agent Sandbox kan Ably nu definiera specifika specifikationer för varje sandbox, inklusive avstängningspolicyer. Arkitekturen drar nytta av Karpenter för att dynamiskt provisionera och återkalla noder i klustret. Detta tillvägagångssätt ger en automatiserad kontroll över infrastrukturresurser och bibehåller isolering mellan olika utvecklingsprojekt.