Grok limity API: Szybki start Przewodnik

Uwierzytelnianie & URL bazowy

Zacznij od ustawienia swojego klucza API i adresu bazowego w konfiguracji klienta. Nasza usługa wykorzystuje standardowe nagłówki, więc możesz podmienić ustawienia istniejącego SDK OpenAI bez przepisywania logiki. Otrzymujesz jeden aktywny klucz na konto, który możesz natychmiast zregenerować w przypadku naruszenia bezpieczeństwa. Adres bazowy to HTTPS://api.groklimity.com/v1 i nie wymaga specjalnego middleware. Pamiętaj które dane promptów nie są używane do trenowania, zapewniając prywatność Twoich własnych promptów.

Wysyłanie pierwszej prośby

Wyślij żądanie POST do /v1/chat/completions z identyfikatorem modelu uncensored. Ten endpoint przyjmuje standardowe parametry takie jak temperature i stop sekwencji. Możesz przetestować połączenie prostą wiadomością systemową, aby zweryfikować opóźnienie. Błędy takie jak 401 wskazują na nieprawidłowy klucz, podczas gdy 402 oznacza, że Twój kredyt prepay został wyczerpany. Uwaga które okno kontekstu obejmuje 100 000 tokenów dla wejścia i wyjścia łącznie.

Copycurl https://api.groklimity.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in the loop."}]
  }'

Integracja SDK Python

Zainstaluj oficjalny openai pakiet i wskaż go na nasz adres URL bazowy. Pozwala to na użycie znanych metod Pythona do wywołań synchronicznych lub asynchronicznych. Ustaw model na uncensored aby zapewnić trafienie we właściwy punkt końcowy. Możesz przekazać listę wiadomości tak samo jak w przypadku GPT-4. Biblioteka automatycznie liczy tokeny, dzięki czemu jesteś świadomy limitów zużycia. Wskazówka: użyj max_tokens ograniczenia wyjścia i uniknięcia nieoczekiwanego wyczerpania kredytu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groklimity.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfiguracja SDK Node

Zainicjuj klienta, podając klucz API oraz niestandardowy adres bazowy. Deweloperzy Node mogą wykorzystać standardowy chat.completions.create metoda. To podejście działa płynnie z istniejącymi projektami, które już używają klientów OpenAI. Nie musisz przepisywać struktur żądań. SDK zarządza połączeniem HTTP i efektywnie parsuje odpowiedzi JSON. Ostrzeżenie: jeśli nie ustawisz max_tokens, domyślny wynik jest ograniczony do 2 048 tokenów.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groklimity.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Odpowiedzi strumieniowe

Włącz strumieniowanie, ustawiając stream: true w ciele żądania. Zwraca to strumień zdarzeń wysyłanych serwerowo (SSE) z częściowymi tokenami. Możesz renderować tekst w czasie rzeczywistym podczas jego generowania, co poprawia postrzeganą opóźnienie dla użytkowników. Ostatni fragment zawiera statystyki całkowitego zużycia tokenów do rozliczeń. Ta metoda jest idealna dla interfejsów czatu, gdzie użytkownicy oczekują natychmiastowej informacji zwrotnej. Wymaganie: upewnij się, że Twój klient poprawnie obsługuje zdarzenia SSE, aby uniknąć wycieków pamięci.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, Błędy & Kontekst

Każdy klucz pozwala na 300 żądań na minutę i 8 żądań równoległych. Jeśli przekroczysz ten limit, otrzymasz 429 błąd limitu szybkości. Ciała żądań są ograniczone do 8 MB, co mieści większość standardowych historii konwersacji. Błędy są darmowe, więc nieudane żądania nie zużywają Twojego kredytu prepaid. Model obsługuje wywoływanie funkcji i tryb JSON dla danych strukturalnych. Ograniczenie: istnieje tylko jeden aktywny klucz na konto, więc ostrożnie rotuj klucze.