SK Hynix entwickelt AI-Chip mit Memristoren für Edge-Anwendungen

SK Hynix hat in Partnerschaft mit TetraMem und der University of Southern California ein neues System-on-Chip (SoC) auf Memristor-Basis entwickelt, das die Energieeffizienz von neuronalen Netzwerkinferenzen in Edge-KI-Geräten verbessern soll.

Der Chip nutzt die Memristortechnologie, die Datenspeicherung und -berechnung innerhalb derselben Einheit ermöglicht. Dieser In-Memory-Computing-Ansatz reduziert Latenzzeiten und Stromverbrauch, die typischerweise mit Datenbewegungen zwischen Prozessoren und Speicher verbunden sind.

Das neu entwickelte SoC integriert einen eingebetteten RISC-V-Prozessor und zehn neuronale Verarbeitungseinheiten (NPU). Es ist für leichte Modelle konzipiert und bietet eine theoretische Spitzenleistung von etwa 2,54 TOPS bei einer Energieeffizienz von bis zu 10,9 TOPS/W im 400-MHz-Betrieb.

Eine NPU ist speziell für tiefe Faltungsoperationen ausgelegt, während die übrigen neun NPUs punktuelle Faltungen und dichte Berechnungen durchführen, wie sie in KI-Anwendungen üblich sind. Die Forscher adressierten auch Herausforderungen mit der Präzision von Memristoren und erreichten eine End-to-End-Infererenzgenauigkeit, die mit 4-Bit-Softwaremodellen konsistent ist.