Thinking Machines veröffentlicht multimodales Open-Source-KI-Modell Inkling
Das KI-Startup Thinking Machines hat Inkling veröffentlicht, ein Open-Source-Modell für multimodale KI. Das Modell verarbeitet Text, Bild und Ton und ist auf niedrige Kosten und Zensurresistenz ausgelegt.
Das von der ehemaligen OpenAI CTO Mira Murati gegründete KI-Startup Thinking Machines hat Inkling vorgestellt, sein erstes großes Sprachmodell, das unter einer Open-Source-Apache-2.0-Lizenz veröffentlicht wird. Dies ermöglicht Unternehmen die Anpassung und den lokalen Betrieb des Modells, entweder On-Premises oder in virtuellen privaten Clouds.
Inkling ist ein nativ multimodales Mixture-of-Experts (MoE)-Modell mit insgesamt 975 Milliarden Parametern, das Text, Bilder und Audio verarbeiten kann. Das Unternehmen hebt einen "kontrollierbaren Denkaufwand"-Mechanismus hervor, der darauf abzielt, Leistung und Kosten auszubalancieren. Eine kleinere Version, Inkling-Small mit 276 Milliarden Parametern, wurde ebenfalls für latenzarme, kostensensitive Anwendungen angekündigt.
Das Modell zeigt laut Unternehmen eine starke Leistung in Benchmarks für Softwareentwicklung und Sprachverständnis. Ein hervorgehobenes Unterscheidungsmerkmal ist sein Design, "direkt auf Themen zu antworten, die zensiert werden könnten", um eine vertrauenswürdigere Option für Unternehmen zu bieten, die sich Sorgen über faktenbasierte Ausgaben machen.
Inkling ist auf Hugging Face und über die Tinker-API von Thinking Machines verfügbar. Es tritt in eine wettbewerbsintensive Landschaft offener Modelle ein und bietet Unternehmen eine Alternative für agentenbasierte KI-Arbeitslasten, die Anpassung und Kontrolle erfordern.