理解 OpenAI 兼容 API 中的 Token 成本
Token 消耗是 API 账单的主要驱动因素。您发送和接收的每一段文本都会被拆分为 Token,每个 Token 都有特定的价格。这种计费方式允许精细化计费,但如果您不了解分词机制,可能会感觉不透明。不同的模型对文本的分词方式不同,这意味着相同的提示词可能会因为底层架构的差异而产生不同的费用。
我们按每百万输入 token 收取 $0.15,每百万输出 token 收取 $0.50。此定价透明且适用于每个请求。连接或平台访问没有隐藏费用。您只为实际处理的 token 付费。如果您发送长上下文窗口,您需为输入付费;如果模型生成长回复,您需为输出付费。这种线性扩展对于预算规划至关重要。这意味着您的成本随使用情况线性增长,而非受限于任意层级。
curl https://api.openaicompatibleapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "what is the current system time"}]
}'理解分词有助于您在发送任何请求之前估算成本。请始终通过 API 响应监控您的 Token 用量,以确保在预算范围内。
为什么“最便宜 LLM API”的标题可能具有误导性
“最便宜”通常仅指输入价格,而忽略了输出成本。许多提供商宣传低输入费率,但对生成内容收取显著更高的费用。如果您的用例涉及长回复,这种差异可能会使您的实际成本翻倍。例如,输入便宜但输出昂贵的模型,在创意写作任务中可能比定价均衡的模型成本更高。
我们的模型平衡输入和输出成本。我们不在小字中隐藏输出价格。每百万输出 token 0.50 美元的价格在所有请求中保持一致。这种透明度让你可以在开始之前计算确切账单。在评估其他提供商时,你可以进行公平比较。查看典型提示-响应周期的总成本,而不仅仅是输入费率。
- 检查输入和输出费率。
- 考虑你用例的平均响应长度。
- 验证缓存折扣是否适用于您的典型查询。
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleapis.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
NSFW 和无审查推理的真实成本
无限制模型通常成本较高,因为它们缺乏标准模型使用的繁重复杂过滤层。过滤需要额外的计算资源和延迟。通过移除这些层,我们降低了开销,但仍提供高质量的推理。该成本反映了生成无限制文本所需的原始计算能力。您支付的是模型处理多样化话题而无需拒绝的能力。
我们不因 NSFW 内容收取额外费用。无论您请求的是商业摘要还是创意故事,价格相同。这种一致性对于构建聊天机器人或角色扮演引擎的开发者至关重要。您无需担心基于内容的价格上涨。模型以标准费率处理所有内容。这种可预测性显著简化了您的定价模型。
真正的成本包括计算时间和模型质量。我们的 uncensored 模型以具有竞争力的价格提供高质量服务。
按 Token 付费与订阅模式对比(面向开发者)
对于波动的工作负载,按Token计费更好。订阅模式更适合可预测的高吞吐量用量。如果您偶尔使用API,订阅可能会浪费金钱。无论您发送一个请求还是一千个请求,订阅都收取相同的费用。而按Token计费使您的成本随实际用量缩放。这种灵活性非常适合开发和测试阶段。
我们提供纯粹的按令牌付费模式。没有月度费用。您充值信用额度并按需使用。这种方法消除了为未使用容量付费的风险。它还允许您从小规模开始并扩展,无需承诺。预存信用额度永不过期,因此您可以在需要时使用。与将您锁定在月度周期中的订阅模式相比,这是一个显著优势。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleapis.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
加密货币支付如何影响运营成本
加密货币支付降低交易费用和拒付风险。这些费用累积很快,尤其是对于小额充值。通过仅接受加密货币,我们将这些节省转嫁给您。运营效率使我们能够保持低价。我们无需为经常性订阅维护复杂的计费基础设施。
我们接受 USDT (TRC20) 和 USDC (Base)。这些网络提供快速交易和低费用。您可以从 $20 到 $500 之间充值任意金额。这种灵活性使您能够有效管理现金流。没有月度账单需要管理。您只需在需要时添加余额。这种简单性降低了您和我们的管理开销。
加密货币支付高效、低成本且透明。它们为开发者实现了公平的定价模型。
速率限制及其对 API 定价的影响
速率限制可防止资源耗尽,但可能会影响您的吞吐量。我们允许每分钟 300 次请求,每个密钥 8 个并发请求。此限制足以满足大多数开发和轻量级生产用例。如果超出这些限制,您的请求将被延迟或拒绝。了解这些限制有助于您正确设计应用程序架构。
我们不因更高的速率限制收取额外费用。标准费率适用于所有请求。这意味着您可以突发流量而不会产生额外费用。8 MB 的请求体限制确保了高效的处理。如果您的负载较大,可能会更早触及此限制。监控您的请求大小以避免不必要的拒绝。这种可预测性有助于您保持稳定的工作流程。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
使用我们的无审查模型计算您的月度账单
您的月度账单是所有 token 使用量的总和。没有固定成本。要计算账单,请将输入 token 数量乘以每百万 $0.15,并将输出 token 数量乘以每百万 $0.50。这种简单的公式使您可以准确预测成本。您可以根据历史使用数据估算账单。这种透明度建立了信任并允许更好的财务规划。
例如,如果您在一个月内处理 1000 万输入 token 和 200 万输出 token,您的账单将是输入 $1.50 和输出 $1.00。总计 $2.50。这种简洁性是一个关键优势。您无需导航复杂的层级结构。每个 token 都有明确的价值。这种清晰度也延伸到错误和拒绝,它们是免费的。您只为成功的完成付费。
- 输入 token:$0.15 每百万。
- 输出 token:$0.50 / 百万。
- 错误和拒绝:免费。
免费层级陷阱:试用信用额 vs. 实际价值
免费层级通常会限制您的使用量或功能。它们旨在吸引用户,而不是服务于生产需求。我们的试用余额提供 $0.50,有效期 7 天。这允许您彻底测试 API。然而,它不是长期解决方案。试用结束后,您需要充值。这种模式确保只有认真使用的用户才会继续使用服务。
试用额度是验证兼容性和质量的绝佳方式。这消除了注册时的摩擦。您可以免费测试 API。如果您觉得有用,可以使用加密货币充值。这种方式确保您为价值付费,而不仅仅是为访问权限付费。它将提供商和开发者的利益统一起来。
试用额度用于测试,而非生产环境。在投入资金之前,请使用它们验证 API。
最终结论:我们的 OpenAI 兼容 API 更便宜吗?
我们的 API 对于可变工作负载和 NSFW 内容更便宜。按令牌付费模式确保你只为使用的内容付费。加密货币支付降低了运营成本。没有订阅费提供了灵活性。对于需要无审查推理的开发者,这种模式提供了最佳价值。你获得高质量的输出,没有隐藏费用。
与传统提供商相比,我们的定价透明且具有竞争力。$0.15 输入和 $0.50 输出的费率是市场上最低的之一。大额充值的额外信用额进一步降低了您的有效成本。您可以扩展使用量而无需担心价格上涨。这使得我们的 API 成为注重成本的开发者的理想选择。
curl https://api.openaicompatibleapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "what is the current system time"}]
}'选择我们用于可预测、无审查且负担得起的推理。您的 API 密钥在几秒钟内即可就绪。