無限制 AI 生產清單
在將無限制 AI 模型投入生產之前,請檢查九個項目:相容性、上下文和輸出限制、token 運算、付款方式、內容容忍度、速率限制、資料政策、金鑰管理和錯誤處理。此檢查清單適用於您評估的任何供應商。
摘要
- 在編寫產品程式碼前,透過一次測試請求驗證 OpenAI 相容性。
- 根據 usage 欄位計算成本:每 1M 輸入代幣 $0.15,每 1M 輸出代幣 $0.50。
- 在您自己的提示上測試內容容忍度,並在您自己的程式碼中設定產品規則。
- 早期規劃錯誤處理:僅重試 429 和 5xx 回應,且絕不要重試 400 或 401。
1. 首先驗證 OpenAI 相容性
將官方 OpenAI SDK 指向 https://unrestrictedllmonline.com/v1發送一條包含模型 ID 的短訊息 uncensored 並從 choices[0].message.content.
- 檢查串流是否返回伺服器發送的事件。
- 檢查錯誤是否以 JSON 格式返回,並包含可供分支處理的狀態碼。
2. 檢查上下文視窗與輸出限制
上下文視窗為 100,000 個 token。預設輸出長度為 2,048 個 token,每次請求最大為 16,000 個 token。設定 max_tokens 調整至您的產品所需的長度,以免長回答意外超出限制。
測試接近上下文限制的對話,並確認請求會以清晰的訊息失敗,而非無聲截斷。
3. 分析 Token 定價算術
將輸入 token 乘以每 1M $0.15,輸出 token 乘以每 1M $0.50。將結果與一天測試流量後的餘額變化進行比較。兩個數字應在很小誤差範圍內一致。
| 範例呼叫 | 輸入 token | 輸出 token | 成本 |
|---|---|---|---|
| 短問題 | 500 | 200 | $0.0002 |
| 長分析 | 50,000 | 3,000 | $0.0090 |
4. 確認付款靈活性
充值以 TRC20 網路上的 USDT 或 Base 網路上的 USDC 支付,起價為 $20。贈送額度從 $50 起適用,且額度永不過期。餘額不會低於零,因此迴圈錯誤會在您存入的金額處停止。
事先決定您的團隊如何充值以及誰會收到使用量警報。
5. 嚴格測試 NSFW 容忍度
運行一組固定的合法成人、虛構和有爭議的提示通過端點。記錄每次拒絕和語調變化,然後將結果與你的產品規則進行比較。
我們的模型直接回答這些請求。唯一的硬性限制是涉及未成年人的性內容,而您的產品應根據其用戶或法律要求添加任何進一步的限制。
6. 評估速率限制與並發性
每個金鑰允許每分鐘 300 次請求與 8 個同時請求。請將這些數字與您的峰值負載進行比較,而非平均值,並測試略高於限制的突發流量,以確認回應為明確的 429。
7. Assess Privacy and Training Policies
此服務的提示詞不用於訓練。不過,請確認您使用案例的條款,並決定您的產品將傳送哪些個人資料。僅儲存您所需的內容,並在記錄前移除個人細節。
8. Review Account and Key Management
將金鑰保存在環境變數中,切勿放在客戶端程式碼中。您可以隨時從帳戶頁面旋轉金鑰;舊金鑰會立即失效。為每個環境創建一個金鑰,這樣測試中的洩漏就不會影響生產環境。
9. 定義您的錯誤處理策略
僅重試 429 和 5xx 回應,採用指數退避並限制總時間。絕不重試 400 或 401,因為相同的請求會再次失敗。402 表示餘額已用完,因此請向用戶顯示清晰訊息並通知團隊。
記錄每次失敗的狀態碼和請求 ID,以便快速追蹤每個問題。
常見問題
無限制模型適合生產環境嗎?
是的,當您在程式碼中設定產品規則並在您自己的提示詞上測試內容時。模型會直接回答合法的成人內容和虛構請求。
我應該使用哪個 model id?
使用 uncensored。它是服務中唯一的模型,因此 ID 不會變更。
一次典型請求的成本是多少?
一次短問題,約 500 個輸入 token 和 200 個輸出 token,成本約為 $0.0002(每 1M token 分別為 $0.15 和 $0.50)。
我如何開始?
使用 Google 或電子郵件及密碼註冊。帳戶將以 $0.50 的試用額度開頭,有效期為 7 天,且無需信用卡。