Gigabyte unterstützt Nemotron 3.5 Lightning für KI-Agenten-Computing

Gigabyte Technology hat angekündigt, dass seine AI TOP ATOM-Hardwareplattform das neu veröffentlichte Nemotron 3.5 Lightning-Modell von NVIDIA und die Open-Source-Routingbibliothek NeMo Switchyard vollständig unterstützt. Diese Kombination bietet Unternehmen und Entwicklern eine leistungsstarke, datenschutzorientierte On-Premises-Computing-Lösung für autonome Agenten-KI-Anwendungen, die niedrige Latenz erfordern.

Das Nemotron 3.5 Lightning-Modell wurde entwickelt, um die Aufgabenerfüllung innerhalb von KI-Agentensystemen zu beschleunigen. Basierend auf einer hybriden Mixture-of-Experts (MoE)-Architektur liefert das Modell einen bis zu viermal höheren Durchsatz im Vergleich zu Modellen ähnlicher Klassen und optimiert so die Berechnungseffizienz und minimiert die Reaktionszeiten für repetitive und spezialisierte Aufgaben.

Darüber hinaus bietet das Modell eine verbesserte Genauigkeit für Codierung, Werkzeugnutzung und Befolgung von Anweisungen. Seine umfangreiche Kontextlänge und die Verfügbarkeit als offenes Modell ermöglichen eine lokale Bereitstellung und Anpassung, wodurch sichergestellt wird, dass sensible Daten innerhalb des Netzwerks des Unternehmens verbleiben. Gigabyte bietet seine AI TOP ATOM-Hardware an, die für diese Anforderungen optimiert ist und für eine Reihe von Anwendungsfällen geeignet ist, von persönlichen Workstations bis hin zu Rechenzentrumsservern.

Die Technologie kann in verschiedenen Sektoren eingesetzt werden, darunter persönliche Assistenten, Softwareentwicklung, Cybersicherheit sowie Automatisierung in Finanz- und Gesundheitsdienstleistungen. Die Hardware von Gigabyte, einschließlich der AI TOP ATOM-Desktoplösung mit dem NVIDIA Grace Blackwell Superchip, ist darauf ausgelegt, das volle Potenzial von Nemotron 3.5 Lightning in lokalen und Edge-Computing-Umgebungen zu entfalten.