รายการตรวจสอบการผลิต AI แบบไร้ขีดจำกัด
ก่อนที่คุณจะนำโมเดล AI แบบไม่จำกัดไปใช้งานจริง ให้ตรวจสอบเก้าสิ่ง: ความเข้ากันได้ ขอบเขตบริบทและเอาต์พุต การคำนวณโทเค็น ตัวเลือกการชำระเงิน ความทนทานต่อเนื้อหา ขีดจำกัดอัตรา นโยบายข้อมูล การจัดการคีย์ และการจัดการข้อผิดพลาด รายการตรวจสอบนี้ใช้ได้กับผู้ให้บริการทุกรายที่คุณกำลังประเมิน
สรุป
- ตรวจสอบความเข้ากันได้กับ OpenAI ด้วยคำขอทดสอบหนึ่งครั้งก่อนเขียนโค้ดผลิตภัณฑ์
- Calculate cost from the usage field: $0.15 per 1M input tokens and $0.50 per 1M output tokens.
- ทดสอบความอดทนต่อเนื้อหาในพรอมต์ของคุณเอง และกำหนดกฎผลิตภัณฑ์ของคุณเองในโค้ด
- วางแผนการจัดการข้อผิดพลาดแต่เนิ่นๆ: ลองใหม่เฉพาะการตอบกลับ 429 และ 5xx เท่านั้น และอย่าลองใหม่สำหรับ 400 หรือ 401
1. ตรวจสอบความเข้ากันได้กับ OpenAI ก่อน
ชี้ SDK OpenAI ทางการไปที่ https://unrestrictedllmonline.com/v1, ส่งข้อความสั้นๆ หนึ่งข้อความพร้อม id โมเดล uncensored และอ่านคำตอบจาก choices[0].message.content.
- ตรวจสอบว่า streaming ส่งคืน server-sent events
- ตรวจสอบว่า error ส่งกลับเป็น JSON พร้อม status code ที่คุณสามารถใช้สำหรับ branching ได้
2. ตรวจสอบหน้าต่างบริบทและขีดจำกัดเอาต์พุต
หน้าต่างบริบทมีขนาด 100,000 tokens ความยาวผลลัพธ์เริ่มต้นคือ 2,048 tokens และสูงสุดต่อคำขอคือ 16,000 tokens ตั้งค่า max_tokens ปรับความยาวให้เหมาะกับผลิตภัณฑ์ของคุณ เพื่อให้คำตอบที่ยาวไม่ชนขีดจำกัดโดยไม่ได้ตั้งใจ
ทดสอบบทสนทนาที่ใกล้กับขีดจำกัดหน้าต่างบริบทและยืนยันว่าคำขอล้มเหลวพร้อมข้อความชัดเจนแทนการตัดออกอย่างเงียบๆ
3. วิเคราะห์คณิตศาสตร์ราคาโทเคน
คูณโทเค็นอินพุตด้วย $0.15 ต่อ 1M และโทเค็นเอาต์พุตด้วย $0.50 ต่อ 1M เปรียบเทียบผลลัพธ์กับการเปลี่ยนแปลงในยอดคงเหลือของคุณในช่วงหนึ่งวันของการทดสอบการจราจร ตัวเลขทั้งสองควรตรงกันภายในขอบเขตเล็กน้อย
| Example call | โทเค็นอินพุต | โทเค็นเอาท์พุต | ต้นทุน |
|---|---|---|---|
| คำถามสั้น | 500 | 200 | $0.0002 |
| การวิเคราะห์แบบยาว | 50,000 | 3,000 | $0.0090 |
4. ยืนยันความยืดหยุ่นในการชำระเงิน
การเติมเงินชำระด้วย USDT บน TRC20 หรือ USDC บน Base เริ่มต้นที่ $20 เครดิตโบนัสจะใช้ได้ตั้งแต่ $50 และเครดิตไม่มีวันหมดอายุ ยอดคงเหลือไม่สามารถติดลบได้ ดังนั้นหากเกิดบั๊กแบบลูปจะหยุดที่จำนวนเงินที่คุณเติม
ตัดสินใจล่วงหน้าว่าทีมของคุณจะเติมเงินอย่างไรและใครจะได้รับแจ้งเตือนการใช้งาน
5. Test NSFW Tolerance Rigorously
Run a fixed set of lawful adult, fictional and controversial prompts through the endpoint. Record each refusal and each change of tone, then compare the results with your product rules.
โมเดลของเราตอบคำขอเหล่านั้นโดยตรง ข้อจำกัดที่ชัดเจนเพียงอย่างเดียวคือเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก และผลิตภัณฑ์ของคุณควรเพิ่มข้อจำกัดเพิ่มเติมที่ผู้ใช้หรือกฎหมายต้องการ
6. ประเมินขีดจำกัดอัตราและความพร้อมใช้งาน
คีย์แต่ละคีย์อนุญาตให้ส่งคำขอได้ 300 คำขอต่อนาที และคำขอพร้อมกันได้ 8 คำขอ เปรียบเทียบตัวเลขเหล่านั้นกับโหลดสูงสุดของคุณแทนค่าเฉลี่ย และทดสอบการพุ่งขึ้นเล็กน้อยเหนือขีดจำกัดเพื่อยืนยันว่าการตอบกลับคือ 429 ชัดเจน
7. ประเมินนโยบายความเป็นส่วนตัวและการฝึกฝน
ไม่ใช้พรอมต์สำหรับการฝึกในบริการนี้ อย่างไรก็ตาม โปรดตรวจสอบข้อกำหนดสำหรับกรณีการใช้งานของคุณ และตัดสินใจว่าจะส่งข้อมูลส่วนบุคคลใดไปบ้าง เก็บเฉพาะสิ่งที่จำเป็น และลบข้อมูลส่วนบุคคลออกก่อนบันทึก
8. ทบทวนการจัดการบัญชีและคีย์
เก็บคีย์ไว้ในตัวแปรสภาพแวดล้อมและ不要在โค้ดไคลเอนต์ หมุนเวียนคีย์ได้ทุกเมื่อจากหน้าบัญชี คีย์เก่าจะหยุดทำงานทันที สร้างคีย์หนึ่งคีย์ต่อสภาพแวดล้อม เพื่อให้การรั่วไหลในการทดสอบไม่ส่งผลกระทบต่อสภาพแวดล้อมการผลิต
9. กำหนดกลยุทธ์การจัดการข้อผิดพลาดของคุณ
เรียกซ้ำเฉพาะการตอบกลับ 429 และ 5xx พร้อมการหน่วงเวลาแบบทวีคูณและจำกัดเวลาทั้งหมด ไม่ควรเรียกซ้ำ 400 หรือ 401 เพราะคำขอเดิมจะล้มเหลวอีกครั้ง 402 หมายถึงยอดเงินหมดแล้ว ดังนั้นให้แสดงข้อความที่ชัดเจนแก่ผู้ใช้และแจ้งทีม
บันทึกรหัสสถานะและ id คำขอสำหรับทุกความล้มเหลว เพื่อให้แต่ละปัญหาสามารถติดตามได้รวดเร็ว
คำถามที่พบบ่อย
โมเดลที่ไม่มีการจำกัดเหมาะสำหรับการใช้งานในระดับการผลิตหรือไม่?
ใช่ เมื่อตั้งค่ากฎของผลิตภัณฑ์ในโค้ดของคุณเองและทดสอบเนื้อหาด้วยพรอมต์ของคุณเอง โมเดลจะตอบคำขอสำหรับผู้ใหญ่ที่ถูกต้องตามกฎหมายและเรื่องเล่าโดยตรง
ฉันควรใช้ model id ใด?
ใช้ uncensored เป็นโมเดลเดียวที่มีในบริการ ดังนั้น ID จึงไม่เปลี่ยนแปลง
คำขอทั่วไปมีค่าใช้จ่ายเท่าไร?
คำถามสั้นๆ ยาวประมาณ 500 โทเค็นอินพุต และ 200 โทเค็นเอาต์พุต มีค่าใช้จ่ายประมาณ $0.0002 ที่อัตรา $0.15 และ $0.50 ต่อ 1M โทเค็น
ฉันจะเริ่มอย่างไร?
สมัครด้วย Google หรืออีเมลและรหัสผ่าน บัญชีเริ่มต้นด้วยเครดิตทดลองใช้ $0.50 ใช้ได้ภายใน 7 วัน และไม่จำเป็นต้องใช้บัตรเครดิต