קלאו מחיר: מדריך התחלה מהירה ויחס API
מדריך זה מסייע לך לשלב את המודל הגלוי שלנו (uncensored) בעל משקל פתוח באמצעות לקוחות OpenAI SDK סטנדרטיים ללא שינוי בקוד שלך. אנו מספקים אלטרנטיבה ישירה בסגנון פרוקסי למודלים יקרים של ספקים, על ידי הצעת מודל גלוי (uncensored) בעל משקל פתוח דרך נקודת הקצה (endpoint) chat-completions זהה.
התקנה והגדרת סביבה
התחל בהתקנת ספריית הלקוח הרשמית לשפתך. השירות שלנו ממוקם מאחורי הסטנדרטי /v1 נתיב, כך שאתה צריך רק לעדכן את כתובת הבסיס ומפתח ה-API. כתובת הבסיס באתר זה היא HTTPS://api.claudeprecio.com/v1. האימות מסתמך על מפתח פעיל אחד לכל חשבון. אתה יכול ליצור מפתח זה מיד דרך Google או אימייל בדף "קבל מפתח API". אין צורך במספר טלפון. המפתח מוצג פעם אחת, אז העתק אותו בצורה מאובטחת.
ביצוע הבקשה הראשונה עם Python
שלח בקשת השלמה באמצעות ה-SDK הסטנדרטי של Python. נקד את הלקוח לכתובת הבסיס שלנו וקבע את המודל ל-"uncensored". מודל בעל משקל פתוח זה פועל על השרתים שלנו ומותאם כדי לענות ללא סירובי תוכן. ניתן להעביר פרמטרים כמו temperature או top_p בדיוק כמו עם כל שירות תואם OpenAI. מבנה הבקשה נשאר זהה לפורמט הסטנדרטי.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeprecio.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
ודא שהתגובה מכילה את הטקסט שנוצר. אם אתה מקבל שגיאת 401, המפתח שלך לא תקין. שגיאת 402 מציינת אשראי מקודם לא מספיק. שגיאות במהלך יצירה לא צורכות טוקנים, כך שאתה משלם רק על פלט מוצלח.
תגובות בזרם וניטור שימוש
אפשרו זרימה על ידי הגדרת stream=True בתצורת הלקוח שלך. ה-API מחזיר אירועים מוכוון שרת (SSE) עבור כל טוקן שנוצר. זה מאפשר לך להציג טקסט בזמן אמת בזמן שממתין לתגובה המלאה. נתוני שימוש, כולל ספירת טוקנים של קלט ופלט, כלולים בפסיקה האחרונה של הזרם. גישה זו מפחיתה את תחומת השהייה עבור פלט ארוך. זה עובד בצורה חלקה עם ה-SDKs הסטנדרטיים.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
טפלו בהפרעות סטרימינג בצורה חכמה. קריסות רשת עשויות להשאיר תגובות חלקיות. תמיד בדוק את הנתח הסופי לקבלת סטטיסטיקות שימוש בטוקנים מדויקות. זה מבטיח שדשבורד החיוב שלך תואם לצריכה בפועל.
פרמטרים: טמפרטורה, top_p, ו-seed
שלו על יצירתיות וניתנות לשחזור באמצעות פרמטרי ייצור סטנדרטיים. ה temperature ערך מתאים את האקראיות, כאשר ערכים נמוכים יותר מייצרים פלט יותר דטרמיניסטי. השתמש ב- top_p לצמצם את דגימה למסת ההסתברות העליונה. הגדר seed כדי לתקן את מצב האקראי לתוצאות ניתנות לשחזור במספר קריאות. פרמטרים אלו עובים בדיוק כמו הסטנדרט של OpenAI. התאם אותם בהתאם למקרה השימוש שלך, בין אם זה כתיבת קוד או כתיבה יצירתית.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeprecio.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
שלבו הגדרות אלו לשליטה מדויקת. לדוגמה, טמפרטורה נמוכה עם זרע קבוע מבטיח פלט עקסי לבדיקות. המודל תומך בכל הפרמטרים הסטנדרטיים כמו stop רצפים ו presence_penalty. נסה למצוא את האיזון הנכון לפרויקט הספציפי שלך.
קריאת פונקציות ומצב JSON
השתמש ב-calling פונקציות לשילוב ה-API לתוך האפליקציות שלך. הגדר כללים בגוף הבקשה, והמודל יחזיר JSON מבני המכיל ארגומנטים של פונקציה. הפעל מצב JSON על ידי הגדרת response_format אל {"type": "json_object"}. זה מבטיץ שהפלט יהיה תמיד JSON תקין, שזה מפשט ניתוח. השתמש בזה לחילוץ נתונים או תגובות מבניות. המודל מטפל בהגדרות כלים מורכבות ביעילות.
curl https://api.claudeprecio.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Calculate total cost for 10 million input tokens and 3 million output tokens"}]
}'
בדקו קריאת פונקציות עם הגדרת כלי פשוטה. ודאו שהמודל מכבד את סכמת הכלי. מצב JSON שימושי במיוחד כאשר נדרשים מבני פלט צפויים. שלבו אותו עם סטרימינג לעיבוד נתונים בזמן אמת. תכונה זו הופכת את ה-API לראוי ליישומים ברמת ייצור.
מגבלות, שגיאות וחלון ההקשר
חלון ההקשר תומך ב-100,000 טוקנים לקלט ופלט משולבים. הפלט המקסימלי בכל בקשה הוא 16,000 טוקנים. אם max_tokens לא מוגדר, מגבלת ברירת המחדל היא 2,048. מותר לכם לבצע 300 בקשות לדקה למפתח. סינכרון מוגבל ל-8 בקשות בו-זמנית למפתח. גוף הבקשה לא יכול לעלות על 8 MB. שגיאות כמו 401, 402 ו-429 מטופלות באמצעות קודי סטטוס HTTP סטנדרטיים. שימוש בטוקנים נחשב במדויק, ושגיאות הן ללא תשלום.
שאלות נפוצות
כמה עולה ה-API הלא-צנזורד?
תמחור הוא $0.15 לכל 1M טוקני קלט ו-$0.50 לכל 1M טוקני פלט. הקרדיט הוא מקדם ונגבה לפי שימוש אמיתי בטוקנים. שגיאות וסירובים לא צורכים קרדיט.
מהו גודל חלון ההקשר?
חלון ההקשר הוא 100,000 טוקנים עבור הפלט וההשלמה יחד. ניתן להפיק עד 16,000 טוקנים לכל בקשה. הפלט המרבי המוגדר כברירת מחדל הוא 2,048 טוקנים אם לא צוין.
האם ניתן להשתמש בזה עם ה-SDK הסטנדרטי של OpenAI?
כן, הוא תואם לחלוטין ל-OpenAI. עליך רק לשנות את כתובת הבסיס ל-HTTPS://api.claudeprecio.com/v1 ולהגדיר את המודל ל-"uncensored". כל הפרמטרים והתכונות הסטנדרטיות כמו זרימה וקריאה לפונקציות עובדים כפי שצפוי.
קבלו את מפתח ה-API שלכם עכשיו
הירשם, העתק את המפתח, עדכן את כתובת הבסיס. זה כל מה שאתה צריך לעשות.