OpenAI stellt Jalapeño-Chip für schnellere KI-Antworten vor

Das KI-Unternehmen OpenAI hat am Dienstag seinen neuen Jalapeño-Chip vorgestellt, der nach Angaben des Unternehmens Aufgaben effizienter erledigt und Antworten schneller als andere KI-Systeme liefert. Laut OpenAI bietet der Chip sowohl eine geringere Latenz als auch einen höheren Durchsatz, eine Kombination, die bei KI-Systemen typischerweise durch Kompromisse erreicht wird.

Jalapeño wurde erstmals im Juni vorgestellt und ist ein ASIC (Application-Specific Integrated Circuit), der in Zusammenarbeit mit Broadcom entwickelt wurde. Der Chip ist speziell für die KI-Inferenz konzipiert, den Prozess der Ausführung eines trainierten KI-Modells zur Erledigung einer Aufgabe oder zum Einsatz eines Agenten.

OpenAI hat keine spezifischen Details zu den Leistungskennzahlen des Chips oder seiner Implementierung in zukünftigen Produkten veröffentlicht. Das Unternehmen hat jedoch kürzlich seinen Fokus auf die interne Hardwareentwicklung verstärkt, um die Effizienz seiner KI-Modelle zu verbessern und die Abhängigkeit von externen Hardwareanbietern zu verringern.

Dieser Hardwarefortschritt könnte potenziell zu schnelleren und kosteneffizienteren Diensten von OpenAI führen und das Unternehmen im sich rasant entwickelnden KI-Umfeld wettbewerbsfähig positionieren.