LG Uplus und OptAI kooperieren bei der Optimierung von KI-Tokens
Der südkoreanische Telekommunikationsanbieter LG Uplus und der KI-Spezialist OptAI haben eine Partnerschaft zur Entwicklung von Token-Optimierungstechnologie geschlossen. Ziel ist es, die Effizienz der KI-Datenverarbeitung zu steigern und den Verbrauch von Grafikprozessoren (GPUs) sowie Energie zu reduzieren.
LG Uplus, ein südkoreanisches Telekommunikationsunternehmen, gab am 2. Oktober seine Partnerschaft mit OptAI bekannt, einem Spezialisten für die Optimierung von KI-Modellen. Die Zusammenarbeit zielt darauf ab, eine Technologie zur Token-Optimierung zu entwickeln, die den Einsatz von Grafikprozessoren (GPUs) und den Energieverbrauch reduziert und gleichzeitig die allgemeine Effizienz der KI-Verarbeitung verbessert.
Tokens sind die grundlegenden Dateneinheiten, die künstliche Intelligenzsysteme bei der Verarbeitung von Benutzeranfragen und der Generierung von Antworten verwenden. OptAI wird sich auf die Entwicklung leichterer und schnellerer Werkzeuge für die Ausführung von KI-Modellen konzentrieren, während LG Uplus seine KI-Dienstbetriebsabläufe für das Testen und Anwenden der neuen Technologie nutzen wird.
In früheren Arbeiten mit einem kleinen Sprachmodell, das auf der Exaone-Modellfamilie von LG AI Research basiert, konnten die Unternehmen das Modell Berichten zufolge auf Smartphone-spezifischen Neural Processing Units (NPUs) betreiben. Dies erreichte eine Leistung, die mit CPU-basierten Methoden vergleichbar war, bei einer Reduzierung der Modellgröße um 82 % und einer Senkung des Energieverbrauchs um 78 %.
Nun erweitern die Unternehmen ihre Entwicklungen auf GPU-Umgebungen für Server. LG Uplus gibt an, dass die Technologie das Potenzial hat, die Anzahl der auf einer einzelnen GPU verarbeiteten Tokens im Vergleich zu bestehenden Methoden um bis zu das Vierfache zu erhöhen. Dieser Fortschritt könnte die Effizienz und Skalierbarkeit von KI-Betrieben in Rechenzentren erheblich beeinflussen.