Claude: gyors kezdés és API hivatkozás
Ez az útmutató segít beépíteni uncenzúrált, nyílt súlyozású modellünket szabványos OpenAI SDK kliensekkel, kód módosítása nélkül. Az API-n keresztül, a pontos ugyanazon chat-completions végpont segítségével kínálunk egy közvetlen, proxy-szerű alternatívát a drága szállítói modellek helyett.
Telepítés és környezet beállítása
Kezdje a nyelvhez készült hivatalos ügyfélkönyvtár telepítésével. Szolgáltatásunk a szabványos /v1 utat, így csak az alap URL-t és az API-kulcsot kell frissítenie. Az oldal alap URL-je: HTTPS://api.claudeprecio.com/v1. A hitelesítés egy fiókonkénti egyetlen aktív kulcsra támaszkodik. Ezt a kulcsot azonnal generálhatja Google-fiókkal vagy e-maillel a "API kulcs beszerzése" oldalon. Nem szükséges telefonszám. A kulcs egyszer megjelenik, így másolja biztonságosan.
Az első kérés végrehajtása Pythonnal
Küldjön completion kérést a szabványos Python SDK-val. Irányítsa a klienst az alap URL-re, és állítsa be a modellt "uncensored" értékre. Ez a nyers súlyú modell a saját szervereinkön fut, és úgy van hangolva, hogy tartalom-visszautasítás nélkül válaszoljon. Adhat meg paramétereket, például temperature vagy top_p pontosan úgy, ahogy bármely más OpenAI-kompatibilis szolgáltatásnál. A kérés szerkezete megegyezik a szabványos formátummal.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeprecio.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Ellenőrizze, hogy a válasz tartalmazza a generált szöveget. Ha 401-es hibát kap, az API-kulcsa érvénytelen. A 402-es hiba elégtelen előre fizetett kreditet jelez. A generálás során fellépő hibák nem fogyasztanak tokeneket, így csak a sikeres kimenetért fizet.
A streamelt válaszok és a használat követése
Engedélyezze a streamelést úgy, hogy stream=True az ügyfélkonfigurációjában. Az API Server-Sent Events (SSE) formátumban adja vissza a generált tokeneket. Ez lehetővé teszi a szöveg valós idejű megjelenítését a teljes válasz beérkezéséig. A használati adatok, beleértve a bemeneti és kimeneti tokenek számát is, a stream végén található utolsó darabban szerepel. Ez a megközelítés csökkenti a észlelt késleltést hosszú kimenetek esetén. Zökkenőmentesen működik a szabványos SDK-kkal.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Kezelje zökkenőmentesen a stream megszakításokat. A hálózati kiesések részleges válaszokat hagyhatnak hátra. Mindig ellenőrizze az utolsó darabot a pontos token-felhasználási statisztikákért. Ez biztosítja, hogy a számlázási táblázata megegyezzen a tényleges fogyasztással.
Paraméterek: Hőmérséklet, top_p és seed
Kreativitás és reprodukálhatóság vezérlése szabványos generálási paraméterekkel. A temperature érték szabályozza a véletlenszerűséget, az alacsonyabb értékek determinisztikusabb kimeneteket eredményeznek. Használja a top_p a legmagasabb valószínűségi tömegre korlátozza a mintavételezést. Állítsa be a seed a véletlen állapot rögzítéséhez a reprodukálható eredmények érdekében több hívás során. Ezek a paraméterek ugyanúgy működnek, mint az OpenAI szabvány. Igazítsa őket a felhasználási esethez, legyen szó kódolásról vagy kreatív írásról.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeprecio.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Kombinálja ezeket a beállításokat a pontos kontroll érdekében. Például az alacsony temperature és a rögzített seed konzisztens kimeneteket biztosít teszteléshez. A modell támogatja az összes szabványos paramétert, mint például stop sorozatok és presence_penalty. Kísérletezz, hogy megtaláld a megfelelő egyensúlyt a konkrét projektedhez.
Function calling és JSON mód
Használjon függvényhívást API integrálásához alkalmazásaiba. Határozza meg az eszközöket a kérés törzsében, és a modell strukturált JSON-t ad vissza függvény-argumentumokkal. Engedélyezze a JSON módot a response_format a {"type": "json_object"}. Ez biztosítja, hogy a kimenet mindig érvényes JSON legyen, ami leegyszerűsíti a feldolgozást. Használja ezt adat-kinyeréshez vagy strukturált válaszokhoz. A modell hatékonyan kezeli az összetett eszközmeghatározásokat.
curl https://api.claudeprecio.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Calculate total cost for 10 million input tokens and 3 million output tokens"}]
}'
Próbálja ki a függvényhívást egyszerű eszközmeghatározással. Ellenőrizze, hogy a modell betartja-e az eszközsémát. A JSON mód különösen hasznos, amikor előrejelezhető kimeneti szerkezetekre van szüksége. Kombinálja streameléssel a valós idejű adatfeldolgatáshoz. Ez a funkció alkalmasná teszi az API-t gyártási szintű alkalmazásokhoz.
Korlátok, hibák és kontextus ablak
A kontextusablak 100 000 token támogatását biztosítja a prompt és a kiegészítés kombinált esetén. A kérésenkénti maximális kimenet 16 000 token. Ha max_tokens nincs beállítva, a határ 2 048. Kulcsonként percenként 300 kérésre van engedélye. A párhuzamosság korlátja kulcsonként 8 egyidejű kérés. A kérés törzse nem haladhatja meg a 8 MB-ot. A 401, 402 és 429 hibák a szabványos HTTP státuskódok segítségével kezelendők. A tokenhasználat pontosan számlázott, a hibák ingyenesek.
Gyakran ismételt kérdések
Mennyibe kerül az uncensored API?
Az árazás $0.15/1M bemeneti token és $0.50/1M kimeneti token. A hitel előfizetett és a valós tokenfelhasználás alapján kerül felszámolásra. A hibák és a visszautasítások nem fogyasztanak hitelt.
Mekkora a kontextusablak mérete?
A kontextusablak 100 000 token, amely a prompt és a kiegészítés együttvéve. Kérésenként akár 16 000 token kimenetet adhat. A maximális kimenet alapértelmezés szerint 2 048 token, ha nincs megadva.
Használható ez a szabványos OpenAI SDK-val?
Igen, teljesen OpenAI-kompatibilis. Csak a bázis URL-t kell megváltoztatnia a HTTPS://api.claudeprecio.com/v1 értékre, és beállítania a modellt "uncensored" értékre. Az összes szabványos paraméter és funkció, mint például a streamelés és a függvényhívás, várt módon működik.
Szerezze meg API-kulcsát most
Regisztráljon, másolja a kulcsot, frissítse a base URL-t. Ennyi a teendő.