Microsofts KI-Werkzeuge erzielen 400% Geschwindigkeitssteigerung
Microsoft hat eine neue KI-Technologie entwickelt, die die Antwortzeiten für seine Copilot-Werkzeuge vervierfacht, ohne die zugrunde liegenden Modelle zu aktualisieren. Gleichzeitig sinkt der Token-Verbrauch um etwa 30%.
Microsoft hat eine bedeutende technologische Verbesserung für seine KI-Agenten wie Copilot angekündigt, die für wissensintensive Unternehmensszenarien bestimmt sind. Diese neue Technologie, die ohne ein Upgrade der zugrunde liegenden großen Modelle entwickelt wurde, steigert angeblich die Reaktionsgeschwindigkeit von KI-Agenten um das bis zu Vierfache und reduziert den Token-Verbrauch um etwa 30 Prozent.
Zuvor führte der Zugriff auf und die Verarbeitung von fragmentierten Informationen, die in Unternehmensumgebungen über E-Mails, Besprechungsaufzeichnungen und technische Dokumente verstreut waren, zu hoher Latenz und erheblichen Rechenkosten für KI-Agenten. Dies erforderte oft, dass Agenten verschiedene Datenquellen einzeln abrufen und bearbeiten mussten.
Der Durchbruch nutzt Microsofts "Work IQ knowledge compilation engine". Diese Engine wandelt verstreute Informationen aus dem gesamten Unternehmen automatisch in eine strukturierte Wissensbasis um. KI-Agenten können dann diese kompilierte Wissensbasis direkt und effizient abfragen, was die Leistung bei Aufgaben wie der Beantwortung von Fragen über Dokumentengrenzen hinweg, der Abfrage des Teamkontexts und der Zusammenfassung verbessert.
Diese Funktion wird derzeit für Frontier Preview-Mandanten ausgerollt. Organisationen können diese Wissensbasen zu bestehenden SharePoint-Websites hinzufügen, die auch Teams-Kanäle und Microsoft 365-Gruppen unterstützen. Microsoft plant, diese Funktion über Copilot Studio auf benutzerdefinierte Agenten auszuweiten und automatisierte Wartungsfunktionen zu entwickeln, um die Wissensbasen mit sich entwickelnden Unternehmensinhalten synchron zu halten.