Ably optimiert KI-Entwicklungsumgebungen durch AWS Agent Sandbox
Die Handelsplattform Ably nutzt Amazon EKS und Agent Sandbox zur automatisierten Steuerung des Lebenszyklus ihrer KI-basierten Entwicklungsumgebungen.
Das E-Commerce-Unternehmen Ably hat Amazon Web Services (AWS) Agent Sandbox eingeführt, um seine internen KI-gestützten Entwicklungsumgebungen effizienter zu verwalten. Das Unternehmen setzt Amazon Elastic Kubernetes Service (Amazon EKS) ein, um isolierte Workspaces bereitzustellen, in denen Mitarbeiter Applikationen mittels natürlicher Sprache entwickeln können.
Eine zentrale Herausforderung für Ably war die Verwaltung der Laufzeitumgebungen. Das Unternehmen benötigte eine Lösung, die Ressourcen bei Bedarf automatisch bereitstellt und nach Abschluss der Arbeiten wieder freigibt. Nach einer Evaluierung verschiedener Kubernetes-Workloads entschied sich das Team gegen Standardlösungen wie Jobs oder Deployments, da diese keine integrierte automatische Lebenszyklusverwaltung für temporäre Arbeitsumgebungen bieten.
Mit Agent Sandbox steuert Ably nun die Erstellung und Abschaltung der Umgebungen über dedizierte Controller. Die Architektur nutzt Karpenter für die bedarfsgerechte Skalierung der Cluster-Knoten. Durch diesen Ansatz kann das Unternehmen die Ressourcenverwaltung für einzelne Projekte automatisieren und gleichzeitig die Kosten durch die Rückgewinnung ungenutzter Rechenleistung optimieren.