Hystax veröffentlicht Open-Source-Tool zur Senkung von KI-Token-Kosten

Hystax hat das Tool OptScale Kompressor unter einer MIT-Lizenz auf GitHub zur Verfügung gestellt. Die Software wurde entwickelt, um die Anzahl der Tokens in KI-Modellen zu komprimieren, ohne die Funktionalität oder Konfiguration der eingesetzten Codierungsagenten zu beeinträchtigen.

In Tests mit dem Benchmark Terminal-Bench 2.1 konnte die Lösung die Rechnungskosten für Codierungsagenten um 22,7 Prozent senken. Dies ist nach Angaben des Unternehmens doppelt so effizient wie vergleichbare existierende Lösungen.

Da Unternehmen zunehmend große Sprachmodelle für Softwareentwicklungsprozesse nutzen, steigen die Kosten für API-Anfragen stetig an. Das Tool zielt darauf ab, diese finanziellen Hürden durch eine effizientere Token-Nutzung abzubauen.

Durch die Bereitstellung als Open-Source-Projekt können Entwickler die Technologie direkt in ihre Systeme integrieren, um ihre Ausgaben für die KI-Infrastruktur zu optimieren.