Produkční kontrolní seznam pro neomezené AI
Než dáte neomezený AI model do produkce, zkontrolujte devět věcí: kompatibilitu, limity kontextu a výstupu, aritmetiku tokenů, možnosti platby, toleranci obsahu, limity rychlosti, politiku dat, správu klíčů a zpracování chyb. Tento kontrolní seznam funguje u jakéhokoli poskytovatele, který hodnotíte.
Shrnutí
- Ověřte kompatibilitu s OpenAI pomocí jednoho testovacího požadku před psaním produktového kódu.
- Vypočítejte náklad z pole usage: $0.15 za 1M vstupních tokenů a $0.50 za 1M výstupních tokenů.
- Otestujte toleranci obsahu na vlastních promptech a nastavte pravidla svého produktu ve vlastním kódu.
- Plánujte zpracování chyb včas: opakujte pouze odpovědi 429 a 5xx a nikdy neopakujte odpovědi 400 nebo 401.
1. Nejprve ověřte kompatibilitu s OpenAI
Směřujte oficiální SDK OpenAI na https://unrestrictedllmonline.com/v1, odešlete jednu krátkou zprávu s id modelu uncensored a přečíst odpověď z choices[0].message.content.
- Zkontrolujte, že streamování vrací události odeslané serverem.
- Zkontrolujte, že chyby se vracejí jako JSON s kódem stavu, na který můžete reagovat.
2. Zkontrolujte kontextové okno a limity výstupu
Okno kontextu má 100 000 tokenů. Výchozí délka výstupu je 2 048 tokenů a maximum na požadavek je 16 000 tokenů. Nastavte max_tokens na délku, kterou váš produkt potřebuje, aby dlouhé odpovědi náhodou nepřekročily limit.
Otestujte konverzaci blízko limitu kontextu a potvrďte, že požadavek selže s jasnou zprávou místo tichého oříznutí.
3. Analyzujte aritmetiku cen tokenů
Vynásobte vstupní tokeny částkou $0,15 za 1M a výstupní tokeny částkou $0,50 za 1M. Porovnejte výsledek se změnou na vašem účtu během dne testovacího provozu. Obě čísla by se měla shodovat v rámci malé odchylky.
| Příklad volání | Vstupní tokeny | Výstupní tokeny | Náklady |
|---|---|---|---|
| Krátká otázka | 500 | 200 | $0.0002 |
| Dlouhá analýza | 50,000 | 3,000 | $0.0090 |
4. Potvrďte flexibilitu plateb
Vklady jsou placeny v USDT na síti TRC20 nebo USDC na síti Base, začíná se částkou 20 $. Bonusový kredit se uplatňuje od 50 $ a kredit nevyprší. Zůstatek nemůže klesnout pod nulu, takže při chybě v cyklu se zastaví na částce, kterou jste nahráli.
Rozhodněte se předem, jak bude váš tým dobíjet a kdo bude dostávat upozornění o využití.
5. Důkladné testování tolerance NSFW
Spusťte pevnou sadu zákonných adult, fiktivních a kontroverzních promptů přes endpoint. Zaznamenejte každé odmítnutí a každou změnu tónu, poté porovnejte výsledky s pravidly vašeho produktu.
Náš model odpovídá na tyto požadavky přímo. Jediným pevným limitem je sexuální obsah s nezletilými a váš vlastní produkt by měl přidat další limity, které vyžadují jeho uživatelé nebo zákon.
6. Hodnovejte limity rychlosti a souběžnost
Každý klíč umožňuje 300 požadavků za minutu a 8 souběžných požadavků. Porovnejte tyto hodnoty se svým špičkým zatížením, nikoli průměrem, a otestujte burst mírně nad limitem, abyste potvrdili, že odpovědí je jasný 429.
7. Hodnocení zásad ochrany osobních údajů a trénování
Prompty nejsou používány k trénování na této službě. Přesto si ověřte podmínky pro váš případ použití a rozhodněte, jaká osobní data váš produkt bude odesílat. Ukládejte pouze to, co potřebujete, a před logováním odstraňte osobní údaje.
8. Zkontrolujte správu účtu a klíčů
"Udržujte klíč v proměnné prostředí a nikdy v kódu klienta. Jakýkoli čas jej můžete otočit ze stránky účtu; starý klíč přestane fungovat okamžitě. Vytvořte jeden klíč pro každé prostředí, aby únik v testování neovlivnil produkci."
9. Definujte strategii zpracování chyb
Opakovat pouze odpovědi 429 a 5xx s exponenciálním backoffem a omezením celkového času. Nikdy neopakovat 400 nebo 401, protože stejný požadavek selže znovu. 402 znamená, že je vyčerpán zůstatek, takže uživateli zobrazte jasnou zprávu a upozorněte tým.
Logujte kód stavu a ID požadavku pro každé selhání, aby mohl být každý problém rychle vystopován.
Časté otázky
Je model bez omezení vhodný pro produkční nasazení?
Ano, když jsou pravidla produktu nastavena ve vašem vlastním kódu a obsah je otestován na vašich vlastních podnětech. Model odpovídá na zákonné dospělé a fiktivní požadavky přímo.
Které ID modelu mám použít?
Použijte uncensored. Je to jediný model na službě, takže ID se nemění.
Kolik stojí typický požadavek?
Krátká otázka o přibližně 500 vstupních tocenech a 200 výstupních tocenech stojí přibližně 0,0002 $ při cenách 0,15 $ a 0,50 $ za 1M tokenů.
Jak začít?
Zaregistrujte se pomocí Google nebo e-mailu a hesla. Účet začíná se zkušebním kreditem ve výši $0.50 platným po dobu 7 dní a k zahájení není potřeba karta.
Získejte svůj API klíč okamžitě
Registrovat, získat klíč, aktualizovat endpoint. Kompletní integrace.
