Cheaper Inference
Cheaper Inference ist ein von Keak AI, Inc. betriebener Marktplatz, der über eine einzige Programmierschnittstelle (API) Zugang zu Modellen künstlicher Intelligenz (KI) bietet. Anwendungen senden Anfragen an den Marktplatz, der sie an geeignete Anbieter weiterleitet und die Nutzungsgebühren vom vorausbezahlten Guthaben des Arbeitsbereichs abzieht. Der Dienst unterstützt OpenAI-kompatible Anfrageformate und eine Anthropic-kompatible Messages-API.[1][2]
Entstehung und Marktplatz
Laut Fabrice Mayrand ging Cheaper Inference aus einem internen Vorhaben hervor, ungenutzte Abnahmeverpflichtungen für Rechenleistung unter dem Listenpreis zu erwerben. Keak nennt drei Quellen für Kapazität oder Preisnachlässe: Mengenvereinbarungen mit KI-Laboren, Preiswettbewerb zwischen Rechenzentren für Modelle mit offenen Gewichten und den Ankauf ungenutzter Abnahmeverpflichtungen oder freier Kapazitäten von Anbietern.[3][4]
Anbieter können sich bewerben, um Inferenzkapazität über den Marktplatz zu verkaufen. Laut der öffentlich zugänglichen Anbieterseite bestätigen sie ihre Identität und hinterlegen einen Schlüssel eines unterstützten Netzwerks. Cheaper Inference prüft, welche Modelle über den Schlüssel erreichbar sind. Keak bietet außerdem separat dedizierte GPUs zur Miete an.[4]
API und Weiterleitung von Anfragen
Der API-Katalog zeigt, welche Modelle einem Client zur Verfügung stehen und welche Funktionen sie bieten. Neben der Textgenerierung beschreibt die Dokumentation Endpunkte zur Bild- und Videogenerierung, zur Berechnung von Einbettungen und zur Neusortierung von Dokumenten. Die unterstützten Eingabeformate und Funktionen wie Streaming hängen vom Endpunkt und vom Modell ab.[2]
Laut API-Dokumentation kann der Dienst eine Anfrage an einen anderen geeigneten Anbieter weiterleiten, wenn der erste Anbieter keine Kapazität mehr hat oder die Verarbeitung vor Beginn der Ausgabe fehlschlägt. Beim Wechsel bleiben die öffentliche Modellkennung und das Antwortformat gleich. Der tatsächlich verwendete Anbieter kann sich auf die Kosten der Anfrage auswirken.[2]
Abrechnung und Aufladung des Guthabens
Der Dienst berechnet Textinferenz in US-Dollar pro Million Token. Für Medien können andere Abrechnungseinheiten gelten. Das Guthabenkonto des Arbeitsbereichs kann vor einer Anfrage einen geschätzten Betrag reservieren und anschließend nach tatsächlicher Nutzung abrechnen. Laut API-Dokumentation richtet sich der Endbetrag nach der Route, über die die Anfrage erfolgreich verarbeitet wurde. Er ist auf den einschlägigen Listenpreis des Modellherstellers für den direkten API-Zugang begrenzt. Der Preisbeobachter EasiAPI dokumentierte Änderungen der ausgewiesenen Preise zwischen seinen Erhebungen.[1][2][5]
Die Dokumentation des Dienstes beschreibt Aufladungen des Arbeitsbereichsguthabens per Zahlungskarte und Kryptowährung. Kryptowährungszahlungen zur Aufladung werden demnach über Stripe abgewickelt. Welche Kryptowährungen und Netzwerke unterstützt werden, gibt die Dokumentation nicht an.[2]
Anfragedaten und Aufbewahrung
Laut Keaks Datenschutzrichtlinie erhält der ausgewählte Modellanbieter den Inhalt der Anfrage. Keak kann bei gewöhnlichen Anfragen eine Kopie der Eingaben und Antworten aufbewahren. Die Richtlinie beschreibt die Option „Zero Data Retention“ (ZDR) als Kontoeinstellung oder, sofern unterstützt, als Option für einzelne Anfragen. Keak zufolge werden Anfragen mit ZDR nur an geeignete Anbieter weitergeleitet, und Keak bewahrt ihren Inhalt nicht auf. Betriebs- und Abrechnungsdaten wie Anfragestatus, Modell, Nutzung und endgültiger Rechnungsbetrag werden separat erfasst.[6]
OmniRoute
Cheaper Inference veröffentlicht OmniRoute, ein von Diego Souza entwickeltes KI-Gateway unter der MIT-Lizenz. Nutzer können OmniRoute auf eigener Infrastruktur betreiben und ihre Anbieterkonten anbinden. Cheaper Inference bietet auch eine gehostete Version an, bei der die Inferenz getrennt vom Hosting-Abonnement abgerechnet wird.[7][8]
Einzelnachweise
- ↑ 1,0 1,1 Terms and Conditions. Cheaper Inference. Retrieved 8 November 2026.
- ↑ 2,0 2,1 2,2 2,3 2,4 Build with Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Fabrice Mayrand — activity and launch account. LinkedIn. Retrieved 8 November 2026.
- ↑ 4,0 4,1 Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Cheaper Inference pricing and review. EasiAPI. Retrieved 8 November 2026.
- ↑ Privacy Policy. Cheaper Inference. Retrieved 8 November 2026.
- ↑ OmniRoute. GitHub. Retrieved 8 November 2026.
- ↑ OmniRoute by Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.