Cheaper Inference
Cheaper Inference è un mercato online gestito da Keak AI, Inc. che offre accesso a modelli di intelligenza artificiale (IA) tramite un'unica interfaccia di programmazione (API). Le applicazioni inviano richieste al mercato, che le inoltra ai fornitori idonei e addebita il costo di utilizzo sul saldo prepagato dello spazio di lavoro. Il servizio supporta formati di richiesta compatibili con OpenAI e un'API Messages compatibile con Anthropic.[1][2]
Origini e mercato
Secondo Fabrice Mayrand, Cheaper Inference è nato da un progetto interno per acquistare sotto il prezzo di listino impegni di spesa inutilizzati per capacità di calcolo. Keak indica tre fonti di capacità o di sconti: accordi sui volumi con laboratori di IA, concorrenza sui prezzi tra centri dati che servono modelli a pesi aperti e acquisto da fornitori di impegni inutilizzati o capacità in eccesso.[3][4]
I fornitori possono chiedere di vendere capacità di inferenza tramite il mercato. La pagina pubblica per i venditori descrive una procedura in cui i fornitori verificano la propria identità e collegano una chiave di una rete supportata. Cheaper Inference verifica quali modelli sono accessibili con la chiave. Keak propone anche il noleggio di GPU dedicate come offerta separata.[4]
API e instradamento delle richieste
Il catalogo dell'API indica i modelli disponibili per un client e le funzionalità di ciascuno. Oltre alla generazione di testo, la documentazione descrive endpoint per la generazione di immagini e video, la produzione di rappresentazioni vettoriali e il riordinamento dei documenti. I formati di ingresso e le funzionalità come lo streaming dipendono dall'endpoint e dal modello.[2]
Secondo la documentazione dell'API, una richiesta può passare a un altro fornitore idoneo se il primo percorso esaurisce la capacità o fallisce prima dell'inizio della risposta. Il passaggio mantiene invariati l'identificativo pubblico del modello e il formato della risposta. Il percorso che serve la richiesta può influire sull'importo addebitato.[2]
Fatturazione e ricarica del saldo
Il servizio esprime il prezzo dell'inferenza testuale in dollari statunitensi per milione di token e può usare altre unità per i contenuti multimediali. Il portafoglio dello spazio di lavoro può accantonare un importo stimato prima dell'elaborazione e addebitare la somma definitiva in base all'uso effettivo. Secondo la documentazione dell'API, l'addebito finale dipende dal percorso che ha gestito la richiesta e non supera il prezzo di listino applicabile per l'accesso diretto al modello. Il servizio di monitoraggio EasiAPI ha documentato variazioni dei prezzi esposti dal mercato tra una rilevazione e l'altra.[1][2][5]
La documentazione del servizio descrive la ricarica del saldo dello spazio di lavoro tramite carta di pagamento o criptovaluta. Indica che Stripe elabora le ricariche in criptovaluta e lascia imprecisati gli asset e le reti supportati.[2]
Dati delle richieste e conservazione
L'informativa sulla privacy di Keak indica che il fornitore del modello selezionato riceve il contenuto della richiesta. Per le richieste ordinarie, Keak può conservare una copia degli input e delle risposte. L'informativa descrive la conservazione zero dei dati (ZDR) come impostazione dell'account o, dove disponibile, come opzione per la singola richiesta. Secondo Keak, le richieste coperte da ZDR vengono inoltrate solo a fornitori idonei e l'azienda non ne conserva il contenuto. I dati operativi e di fatturazione, come lo stato della richiesta, il modello, il consumo e l'importo finale, sono registrati separatamente.[6]
OmniRoute
Cheaper Inference pubblica OmniRoute, un gateway per l'IA creato da Diego Souza e distribuito con licenza MIT. Gli utenti possono installare OmniRoute sulla propria infrastruttura e collegare gli account dei fornitori. Cheaper Inference offre anche una versione ospitata e fattura l'inferenza separatamente dall'abbonamento di hosting.[7][8]
Note
- ↑ 1,0 1,1 Terms and Conditions. Cheaper Inference. Retrieved 8 November 2026.
- ↑ 2,0 2,1 2,2 2,3 2,4 Build with Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Fabrice Mayrand — activity and launch account. LinkedIn. Retrieved 8 November 2026.
- ↑ 4,0 4,1 Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Cheaper Inference pricing and review. EasiAPI. Retrieved 8 November 2026.
- ↑ Privacy Policy. Cheaper Inference. Retrieved 8 November 2026.
- ↑ OmniRoute. GitHub. Retrieved 8 November 2026.
- ↑ OmniRoute by Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.