了解 OpenAI 相容 API 中的 Token 成本
Token 費用是 API 帳單的主要驅動因素。您發送和接收的每段文字都會被拆分為 Token,而每個 Token 都有特定的價格。這種方法允許精細化的計費,但如果您不了解 Tokenization(分詞)的工作原理,可能會覺得不夠透明。不同的模型對文字的分詞方式不同,這意味著相同的提示詞可能會因為底層架構的差異而產生不同的費用。
我們收取每百萬個輸入 token $0.15,每百萬個輸出 token $0.50。此費率透明且適用於每個請求。無連線或平台存取費。您僅為實際處理的 token 付費。若您傳送長上下文視窗,您需為輸入付費。若模型生成長回應,您需為輸出付費。這種線性擴展對於預算規劃至關重要。這意味著您的成本隨用量直接增長,而非隨任意分級增長。
curl https://api.openaicompatibleapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "what is the current system time"}]
}'了解 tokenization 可幫助您在發送任何請求前估算成本。請務必透過 API 回應監控您的 token 使用量,以確保在預算範圍內。
為什麼「最便宜 LLM API」的標題可能具有誤導性
「最便宜」通常僅指輸入價格,而忽略了輸出成本。許多供應商宣稱輸入費率低廉,但生成費用卻顯著更高。如果您的用例涉及長回應,這種差異可能會使您的實際成本翻倍。例如,一個輸入便宜但輸出昂貴的模型,在創意寫作任務中可能比定價均衡的模型花費更多。
我們的模型平衡輸入和輸出成本。我們不會在細則中隱藏輸出價格。每百萬輸出 token 的 $0.50 費率在所有的請求中保持一致。這種透明度讓你在開始前就能計算出準確的帳單。在評估其他供應商時,你可以進行公平比較。查看典型提示-回應循環的總成本,而不僅僅是輸入費率。
- 檢查輸入與輸出費率。
- 考慮你用例的平均響應長度。
- 驗證快取折扣是否適用於您的典型查詢。
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleapis.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
NSFW 與 uncensored 推理的真實成本
無審查模型通常成本較高,因為它們缺乏標準模型使用的重型過濾層。過濾需要額外的運算資源和延遲。通過移除這些層,我們降低了開銷,但仍提供高品質的推論。此成本反映了生成不受限制文本所需的原始運算能力。您支付的是模型處理多樣化主題而無需拒絕的能力。
我們不對 NSFW 內容收取額外費用。無論您要求的是商業摘要還是創意故事,價格相同。這種一致性對於建構聊天機器人或角色扮演引擎的開發者至關重要。您無需擔心基於內容的價格上漲。模型以標準費率處理所有內容。這種可預測性大幅簡化了您的定價模型。
真正的成本包括運算時間與模型品質。我們的 uncensored 模型以具競爭力的價格提供高品質服務。
開發者的按 Token 計費與訂閱模式比較
按 Token 計費適合變動式工作負載。訂閱制適合可預測的高量使用。如果您偶爾使用 API,訂閱可能會浪費錢。無論您發送一個請求還是一千個請求,訂閱費都是固定的。使用按 Token 計費,您的成本會隨著實際用量調整。這種靈活性非常適合開發和測試階段。
我們提供純按 token 付費模式。沒有月度費用。您充值信用額度並按需使用。這種方法消除了為未使用容量付費的風險。它也允許您從小規模開始並擴展,無需承諾。預付信用額度永不過期,因此您可以在需要時使用。這比將您鎖定在月度週期中的訂閱模型具有顯著優勢。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleapis.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
加密貨幣付款如何影響營運成本
加密貨幣付款可降低交易費用與拒付風險。這些費用累積起來很快,特別是對於小額充值。通過僅接受加密貨幣,我們將這些節省轉讓給您。營運效率使我們能夠保持低價格。我們無需為定期訂閱維護複雜的帳單基礎設施。
我們接受 USDT (TRC20) 和 USDC (Base)。這些網絡提供快速交易和低費用。您可以充值介於 $20 至 $500 之間的任意金額。這種靈活性允許您有效管理現金流。沒有月度帳單需要管理。您只需在需要時添加餘額。這種簡單性減少了您和我們的行政負擔。
加密貨幣付款高效、低成本且透明。它們為開發者實現了公平的定價模型。
速率限制對 API 定價的影響
速率限制可防止資源耗盡,但可能會影響您的吞吐量。我們允許每個金鑰每分鐘 300 次請求和 8 次並發請求。此限制足以滿足大多數開發和輕量級生產用例。如果您超出這些限制,您的請求將被延遲或拒絕。了解這些限制有助於您正確設計應用程式架構。
我們不對較高的速率限制收取額外費用。標準費率適用於所有請求。這意味著您可以處理流量峰值而無需產生額外成本。8 MB 的請求主體限制確保了處理效率。如果您的載體較大,可能會較早觸及此限制。請監控您的請求大小,以避免不必要的拒絕。這種可預測性有助於您維持穩定的工作流程。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
使用我們的無審查模型計算您的月度帳單
您的月度帳單為所有 token 使用量的總和。沒有固定成本。要計算帳單,請將輸入 token 數量乘以每百萬 $0.15,並將輸出 token 數量乘以每百萬 $0.50。這種簡單的公式讓您可以準確預測成本。您可以根據歷史使用數據估算帳單。這種透明度建立了信任,並有助於更好的財務規劃。
例如,如果您在一個月內處理 1000 萬個輸入 token 和 200 萬個輸出 token,您的帳單將為輸入 $1.50 和輸出 $1.00。總計為 $2.50。這種簡單性是一個關鍵優勢。您無需瀏覽複雜的分層結構。每個 token 都有明確的價值。這種清晰度也延伸到錯誤和拒絕,這些是免費的。您只為成功的完成付費。
- 輸入 token:每百萬個 $0.15。
- 輸出 token:每百萬 $0.50。
- 錯誤與拒絕:免費。
免費層陷阱:試用信用額度 vs. 實際價值
免費層級通常會限制您的使用量或功能。它們旨在吸引用戶,而非滿足生產環境需求。我們的試用信用額度提供 $0.50,有效期為 7 天。這讓您可以徹底測試 API。然而,這不是長期解決方案。試用期結束後,您需要充值。這種模式確保只有認真使用的用戶會繼續使用該服務。
試用額度是驗證相容性與品質的絕佳方式。這消除了註冊的門檻。您可以無風險地測試 API。如果您覺得有用,可以使用加密貨幣充值。這種方式確保您為價值付費,而不僅僅是為存取付費。這使供應商與開發者的利益保持一致。
試用額度僅供測試,不適用於生產環境。請在投入資金前使用它們來驗證 API。
最終裁決:我們的 OpenAI 相容 API 更便宜嗎?
我們的 API 對於變動工作負載和 NSFW 內容更便宜。按 Token 付費模式確保你只為所使用的內容付費。加密支付降低了營運成本。沒有訂閱費提供了靈活性。對於需要無審查推理的開發者來說,這種模式提供了最佳的價值。你獲得高品質的輸出,沒有隱藏費用。
與傳統供應商相比,我們的定價透明且具有競爭力。$0.15 輸入和 $0.50 輸出的費率是市場上最低的之一。較大充值的額外信用額進一步降低了您的有效成本。您可以擴展使用量而無需擔心價格上漲。這使我們的 API 成為成本敏感型開發者的理想選擇。
curl https://api.openaicompatibleapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "what is the current system time"}]
}'選擇我們以獲得可預測、無審查且負擔得起的推理。您的 API 金鑰在幾秒鐘內即可就緒。