Grok korlátok API: Gyors kezdés Útmutató

Hitelesítés & Base URL

Kezdje azzal, hogy az API kulcsot és a base URL-t a kliens konfigurációjában állítja be. Szolgáltatásunk szabványos fejléceket használ, így beépítheti meglévő OpenAI SDK beállításait a logika átírása nélkül. Fiontonként egy aktív kulcsot kap, amelyet sérülés esetén azonnal regenerálhat. A base URL: HTTPS://api.groklimity.com/v1, és nem igényel speciális middleware-t. Emlékezzen amelyben a prompt adatait nem használjuk fel tanításhoz, biztosítva a tulajdonosi promptok adatvédelmét.

Az első kélem küldése

Küldjön egy POST kérést a /v1/chat/completions végpontra a modellazonosítóval uncensored. Ez a végpont szabványos paramétereket fogad, mint például temperature és stop szekvenciák. Tesztelheti a kapcsolatot egy egyszerű rendszerüzenettel a késleltetés ellenőrzésére. Hibák, mint 401 érvénytelen kulcsot jeleznek, míg 402 azt jelenti, hogy az előleges hitel kimerült. Megjegyzés amelyben a kontextusablak 100 000 tokenre terjed bevitelre és kimenetre együttesen.

Copycurl https://api.groklimity.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in the loop."}]
  }'

Python SDK Integráció

Telepítse a hivatalos openai csomagolja be és irányítsa a base URL-t a miénkhez. Ez lehetővé teszi, hogy a megszokott Python módszereket használja szinkron vagy aszinkron hívásokhoz. Állítsa be a modellt uncensored a helyes végponthoz csatlakozik. Átadhat egy üzenetlistát, pontosan úgy, ahogy a GPT-4 esetén tenné. A könyvtár automatikusan kezeli a tokenek számolását, így mindig tisztában van a felhasználási korlátaival. Tipp: használd max_tokens a kimenet korlátozásához és a váratlan hitelcsökkenés elkerüléséhez.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groklimity.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK konfiguráció

Inicializálja a klienst az API-kulcsával és az egyéni base URL-címmel. A Node fejlesztők kihasználhatják a szabványos chat.completions.create módszer. Ez a megközelítés zökkenőmentesen működő meglévő projektekkel, amelyek már OpenAI klienseket használnak. Nem kell átírnia a kérelem struktúráit. Az SDK kezeli az HTTP kapcsolatot és hatékonyan parse-olja a JSON válaszokat. Figyelem: ha nem állítod be max_tokens, az alapértelmezett kimenet 2 048 tokenre van korlátozva.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groklimity.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelési válaszok

Engedélyezze a streamelést úgy, hogy stream: true a kérés törzsében. Ez egy Server-Sent Events (SSE) streamet ad vissza a részleges tokenekből. A szöveg valós időben megjeleníthető generálás közben, ami javítja a felhasználók által érzékelt késleltetést. Az utolsó darab tartalmazza a számlázáshoz szükséges teljes tokenfelhasználási statisztikákat. Ez a módszer ideális chat felületekhez, ahol a felhasználók azonnali visszajelzést várnak. Követelmény: biztosítsd, hogy a kliensed helyesen kezelje az SSE eseményeket a memória szivárgás elkerülése érdekében.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Korlátok, hibák & Kontextus

Minden kulcs percenként 300 kérelmet és 8 párhuzamos kérelmet engedélyez. Ha ezt túllépi, kap egy 429 rate limit hiba. A kérés testei 8 MB-ra vannak korlátozva, ami megfelel a legtöbb szabványos beszélgetési előzménynek. A hibák ingyenesek, így a sikertelen kérések nem fogyasztják el az előre fizetett kreditjét. A modell támogatja a funkcióhívást és a JSON módot strukturált kimenetekhez. Korlát: csak a percenkénti 300 kéréses keret