Expedia-KI-Chef: Evaluierungen ersetzen Produktanforderungen

<h2>Evaluierungen im Zentrum der KI-Produktentwicklung</h2> <p>Auf der VB Transform 2026 in Menlo Park erklärte Xavi Amatriain, Chief AI and Data Officer der Expedia Group, dass „die neuen PRDs die Evaluierungen sind“. Er erläuterte, dass Evaluierungen, einschließlich Methoden wie Red Teaming, definieren werden, was ein Produkt tun soll, und Sicherheitsanforderungen integrieren, noch bevor die eigentliche Kodierung beginnt.</p> <p> Amatriain, der im Dezember 2025 von Google zu Expedia kam, glaubt, dass KI-gestützter oder KI-generierter Code zukünftige Entwicklungsprozesse grundlegend verändern wird. „All dein Denken wird in die Evaluierungen einfließen“, sagte er. Diese Erkenntnisse gewinnen an Bedeutung angesichts der Pulse-Studie von VentureBeat, die ergab, dass 66 Prozent der Unternehmen die Produktionsbereitstellung ohne menschliche Überprüfung zulassen oder darauf hinarbeiten, obwohl nur 5 Prozent vollständig auf automatisierte Evaluierungen vertrauen.</p> <h2>Balance zwischen Flexibilität und Sicherheit</h2> <p> Amatriain warnte auch vor den Nachteilen übermäßiger Schutzmaßnahmen. „Je mehr Leitplanken und künstliche Geschäftsregeln man in das System einbaut, desto schlechter wird es“, bemerkte er. Solche Regeln können fehleranfällig sein und das Nutzerfeedback verzerren, was zu fehlerhaftem Lernen führt. Während Schutzmaßnahmen notwendig sind, besteht das Ziel darin, ihre Auswirkungen im Laufe der Zeit zu minimieren.</p> <p> Der Ansatz der Expedia Group zur Steuerung von KI umfasst drei Ebenen: zuerst Prinzipien, gefolgt von Prozessen und Werkzeugen und schließlich Automatisierung. Prinzipien leiten die Entscheidungsfindung im gesamten Unternehmen. Prozesse und Werkzeuge sorgen für die notwendige Durchsetzung dieser Prinzipien, wobei die Automatisierung den Gesamtrahmen unterstützt. Risikobasierte Kontrollpunkte, wie Evaluierungsrunden und Sicherheitsüberprüfungen, stellen die angemessene Steuerung sicher.</p> <h2>Systemdesign und spezialisierte Agenten</h2> <p> Amatriain sprach sich für die Verwendung spezialisierter Agenten anstelle einer monolithischen KI aus. „Ich denke, es ist viel besser, dies als Komposition zu betrachten, mit spezialisierten Agenten, die in einer bestimmten Aufgabe sehr gut sind, und dann das System aus diesen spezialisierten Agenten zu komponieren.“ Dieser Ansatz verbessert auch die Sicherheit, da einzelne Agenten isoliert bewertet und gesichert werden können, bevor sie kombiniert werden. Expedia betont, dass der Benutzer die endgültige Entscheidungsbefugnis für Aktionen wie Hotelbuchungen behalten muss – eine kritische Sicherheitsmaßnahme.</p>