Flatkey führt dedizierte Cloud-Infrastruktur für NVIDIA B300 ein
Flatkey Inc. hat mit Flatkey Compute eine Plattform vorgestellt, die isolierte NVIDIA B300-Hardwarecluster für KI-Inferenz bereitstellt.
Das in San Jose ansässige Unternehmen Flatkey Inc. hat den Start von Flatkey Compute bekannt gegeben, einem Dienst, der Unternehmenskunden dedizierte Hardware-Cluster auf Basis von NVIDIA B300-GPUs zur Verfügung stellt. Im Gegensatz zu herkömmlichen Cloud-Umgebungen, in denen sich mehrere Nutzer die Ressourcen teilen, reserviert dieser Dienst ganze physische Cluster exklusiv für einzelne Kunden.
Der Dienst ist speziell auf KI-Inferenz ausgelegt und ermöglicht es Unternehmen, komplexe Modelle in einer isolierten Umgebung auszuführen. Flatkey übernimmt dabei das Infrastrukturmanagement und den operativen Betrieb. Damit richtet sich das Produkt vor allem an Branchen, die eine strikte Datentrennung und konsistente Hardware-Leistung erfordern.
Die Bereitstellung dedizierter GPU-Cluster reagiert auf den steigenden Bedarf an berechenbarer Rechenleistung bei der Implementierung von KI-Modellen. Durch die Abkehr von geteilten Ressourcenmodellen zielt Flatkey darauf ab, Latenzen zu minimieren und Schwankungen in der Infrastruktur für Kunden zu reduzieren, die hochgradig rechenintensive Machine-Learning-Aufgaben ausführen.