Apple verhandelt mit Startup über Verkleinerung von KI-Modellen für iPhones

Apple befindet sich in Gesprächen mit einem Startup aus dem Silicon Valley, das angibt, leistungsstarke Modelle der künstlichen Intelligenz (KI) so verkleinern zu können, dass sie direkt auf einem iPhone ausgeführt werden können. PrismML, ein von Khosla Ventures unterstütztes Unternehmen, das aus dem California Institute of Technology hervorgegangen ist, hat öffentlich komprimierte Versionen des Open-Source-Modells Qwen von Alibaba veröffentlicht. Das Startup gibt an, das Modell von rund 54 GB auf weniger als 4 GB reduziert zu haben, wodurch alle 27 Milliarden Parameter auf einem iPhone 15 oder neuer ausgeführt werden können.

PrismML-CEO Babak Hassibi sagte gegenüber CNBC, dass Apple und andere Unternehmen die Modelle des Startups hinsichtlich Geschwindigkeit, Energieeffizienz und Leistung bewerten. Diese Gespräche befinden sich in einem frühen Stadium, schreiten jedoch gut voran. Die Technologie könnte die Geschwindigkeit und Privatsphäre von Siri erheblich verbessern, indem mehr KI-Aufgaben direkt auf dem Gerät verarbeitet werden, anstatt Anfragen an die Cloud zu senden. Hassibi räumte einen leichten Leistungskompromiss ein und bemerkte einen Rückgang der Gesamtleistung um einige Prozentpunkte.

Sollten sich die Behauptungen von PrismML in der Praxis bewähren, könnte diese Technologie die Nachfrage nach Speicher und Rechenleistung in Rechenzentren neu gestalten. Carolina Milanesi, leitende Analystin bei Creative Strategies, merkte an, dass kleinere Modelle es Apple ermöglichen könnten, anspruchsvollere Funktionen auf das iPhone zu verlagern, einschließlich fortschrittlicher computergestützter Fotografie, Videogenerierung und gesundheitsbezogener Werkzeuge, die sensible persönliche Daten verarbeiten.

Das Startup komprimiert KI-Modelle durch Vereinfachung der Speicherung interner Informationen, wodurch der benötigte Speicher drastisch reduziert wird. PrismML gibt an, dass seine komprimierten Modelle 10- bis 15-mal weniger Speicher benötigen, Antworten 6- bis 8-mal schneller liefern und 3- bis 6-mal weniger Energie verbrauchen als herkömmliche Versionen.