Grok limity API: Rychlý start Průvodce

Ověření & základní URL

Začněte nastavením vašeho API klíče a základní URL v konfiguraci klienta. Naše služba používá standardní hlavičky, takže můžete do svého kódu vložit stávající nastavení SDK OpenAI bez přepisování logiky. Na účet obdržíte jeden aktivní klíč, který můžete v případě kompromitace okamžitě obnovit. Základní URL je HTTPS://api.groklimity.com/v1 a nevyžaduje žádnou speciální middleware. Pamatujte které vaše data promptu nejsou používána pro trénink, což zajišťuje soukromí vašich proprietárních promptů.

Odeslání první žádosti

Odešlete požadavek POST na /v1/chat/completions s ID modelu uncensored. Tento endpoint přijímá standardní parametry jako temperature a stop sekvence. Připojení můžete otestovat jednoduchou systémovou zprávou pro ověření latence. Chyby jako 401 označují neplatný klíč, zatímco 402 znamená, že vaše předplacený kredit je vyčerpán. Poznámka které kontextové okno sahá na 100 000 tokenů pro vstup i výstup dohromady.

Copycurl https://api.groklimity.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in the loop."}]
  }'

Integrace Python SDK

Nainstalujte oficiální openai balíček a nasměrujte ho na naši základní URL. To vám umožní používat známé metody Pythonu pro synchronní nebo asynchronní volání. Nastavte model na uncensored abyste zasahovali do správného endpointu. Můžete předat seznam zpráv stejně jako u GPT-4. Knihovna automaticky počítá tokeny, takže máte přehled o limitech využití. Tip: použijte max_tokens k omezení výstupu a vyhnutí se neočekávanému vyčerpání kreditu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groklimity.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurace SDK pro Node

Inicializujte klienta pomocí vašeho API klíče a vlastní základní URL. Vývojáři v Node.js mohou využít standardní chat.completions.create metoda. Tento přístup funguje bezproblémově s existujícími projekty, které již používají klienty OpenAI. Nemusíte přepisovat struktury požadavků. SDK spravuje HTTP připojení a efektivně parzuje odpovědi JSON. Upozornění: pokud nenastavíte max_tokens, výchozí výstup je omezen na 2 048 tokenů.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groklimity.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamované odpovědi

Povolte streamování nastavením stream: true v těle požadavku. Toto vrací stream částečných tokenů ve formátu Server-Sent Events (SSE). Text můžete vykreslovat v reálném čase během generování, což zlepšuje vnímanou latenci pro uživatele. Poslední část obsahuje statistiky spotřeby tokenů pro fakturaci. Tato metoda je ideální pro chatová rozhraní, kde uživatelé očekávají okamžitou zpětnou vazbu. Požadavek: zajistěte, že váš klient správně zpracovává události SSE, abyste předešli únikům paměti.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, chyby & kontext

Každý klíč umožňuje 300 požadavků za minutu a 8 souběžných požadavků. Pokud tento limit překročíte, dostanete 429 chyba limitu rychlosti. Těla požadavků jsou omezena na 8 MB, což vyhovuje většině standardních historií konverzací. Chyby jsou zdarma, takže selhané požadavky nespotřebovávají váš předplacený kredit. Model podporuje volání funkcí a režim JSON pro strukturované výstupy. Omezení: existuje pouze jeden aktivní klíč na účet, takže klíče střídejte pečlivě.