Cheaper Inference
Cheaper Inference 是 Keak AI, Inc. 运营的托管市场，通过统一的应用程序编程接口（API）提供对人工智能（AI）模型的访问。应用将请求发送到该市场，由市场转发给符合条件的供应商，并从工作区的预付余额中扣除使用费用。该服务支持兼容 OpenAI 的请求格式，以及兼容 Anthropic 的 Messages API。[1][2]
起源与市场运营
据 Fabrice Mayrand 介绍，Cheaper Inference 源于一个内部项目，最初以低于标价的价格购入未使用的算力采购承诺。Keak 列出三类算力或折扣来源：与人工智能实验室达成的批量采购协议、为开放权重模型提供服务的数据中心之间的价格竞争，以及从供应商处购入未使用的采购承诺或闲置算力。[3][4]
供应商可申请在该市场出售推理算力。公开的卖家页面介绍了相关流程：供应商验证身份后，接入受支持网络的密钥。Cheaper Inference 会测试该密钥能够调用哪些模型。Keak 还单独提供专用 GPU 租赁服务。[4]
API 与请求路由
API 目录列出客户端可用的模型及其功能。除文本生成外，文档还介绍了用于生成图像和视频、生成嵌入向量以及对文档重新排序的端点。支持的输入格式和流式传输等功能取决于端点和模型。[2]
据 API 文档，如果第一条路由的算力不足，或在输出开始前发生故障，请求可以转交另一家符合条件的供应商。切换路由时，公开的模型标识符和响应格式保持不变。实际处理请求的路由可能影响收费金额。[2]
计费与余额充值
文本推理按每百万个词元以美元计价，媒体请求可以采用其他计费单位。工作区钱包可在请求执行前预留预计费用，再按实际用量结算。API 文档称，最终费用取决于成功处理请求的路由，且不会超过模型开发商对直接 API 访问适用的标价。价格追踪服务 EasiAPI 记录了该市场在不同观测时点的挂牌价格变化。[1][2][5]
服务文档介绍了使用支付卡或加密货币为工作区余额充值的方式。文档称加密货币充值由 Stripe 处理，并未列明支持的资产或网络。[2]
请求数据与留存
Keak 的隐私政策称，所选模型供应商会收到请求内容。对于普通请求，Keak 可以保留一份提示词和响应的副本。该政策将零数据留存（ZDR）描述为账户设置，或在受支持时按单次请求启用的选项。Keak 称，适用 ZDR 的请求只会转发给符合条件的供应商，Keak 不留存其内容。请求状态、所用模型、用量和结算金额等运营与计费记录则单独保存。[6]
OmniRoute
Cheaper Inference 发布 OmniRoute。这是由 Diego Souza 创建、以 MIT 许可证发布的人工智能网关。用户可以在自己的基础设施上部署 OmniRoute，并接入供应商账户。Cheaper Inference 也提供托管版本，推理费用与托管订阅费分别结算。[7][8]
参考资料
- ↑ 1.0 1.1 Terms and Conditions. Cheaper Inference. Retrieved 8 November 2026.
- ↑ 2.0 2.1 2.2 2.3 2.4 Build with Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Fabrice Mayrand — activity and launch account. LinkedIn. Retrieved 8 November 2026.
- ↑ 4.0 4.1 Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Cheaper Inference pricing and review. EasiAPI. Retrieved 8 November 2026.
- ↑ Privacy Policy. Cheaper Inference. Retrieved 8 November 2026.
- ↑ OmniRoute. GitHub. Retrieved 8 November 2026.
- ↑ OmniRoute by Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.