Amazon-AGI-Direktor: Zuverlässigkeit, nicht Fähigkeit, bremst KI-Agenten-Einsatz

Bryan Silverthorn, Leiter für AGI-Autonomie bei Amazon, legte auf der Konferenz VB Transform 2026 dar, warum die Kluft zwischen Pilotprojekten für KI-Agenten und ihrer tatsächlichen Einführung in die Produktion bestehen bleibt. Während 85 % der Unternehmen KI-Agenten testen, haben nur 5 % sie in die Produktion überführt.

Silverthorn argumentierte, dass das Kernproblem nicht in den Fähigkeiten der KI-Modelle liegt, sondern in ihrer Zuverlässigkeit. Er unterteilte Zuverlässigkeit in vier Dimensionen: Konsistenz, Robustheit, Vorhersagbarkeit und Sicherheit. Dieses Framework helfe dabei, die Gründe dafür aufzudecken, warum Agenten interne Tests bestehen, aber in realen Anwendungen versagen.

Er nannte als Beispiel einen Agenten für die Software-Qualitätssicherung, der Seriennummern extrahierte. Dieser funktionierte zwei Monate lang einwandfrei, bevor er intermittierend falsche Nummern las. Ursache war eine Änderung im Verhalten des Vision-Encoders, abhängig von der Position der Seriennummer auf dem Bildschirm, ausgelöst durch ein subtiles Software-Update.

Silverthorn betonte, dass die Verbesserung der Messpraktiken ebenso entscheidend ist wie die Weiterentwicklung der Modelle. Unternehmen müssen die Variabilitätsdimensionen ihrer spezifischen Anwendungen identifizieren und die Testgenauigkeit an die Risiken anpassen. In Amazons AGI-Labor werden Agenten scherzhaft als 'Praktikanten' bezeichnet, was eine Managementphilosophie widerspiegelt, die sie als leistungsfähige, aber manchmal unvorhersehbare Ressourcen betrachtet, die sorgfältige Überwachung erfordern.

Für Unternehmen, die mit der KI-Einführung kämpfen, riet Silverthorn, den Fokus von der Fähigkeit eines Agenten, eine Aufgabe einmal beeindruckend zu erledigen, auf seine Beständigkeit bei der Tausendfach fehlerfreien Ausführung zu verlagern. Letztendlich, so schlussfolgerte er, wird der erfolgreiche KI-Einsatz weniger von der Intelligenz der Agenten als vielmehr von der Fähigkeit der Manager abhängen, sie effektiv zu beaufsichtigen.