Grok обмеження API: Швидкий старт Посібник

Автентифікація & базовий URL

Почніть із встановлення API-ключа та базового URL у конфігурації вашого клієнта. Наш сервіс використовує стандартні заголовки, тому ви можете підставити налаштування існуючого SDK OpenAI без переписування логіки. Ви отримуєте один активний ключ на обліковий запис, який можна миттєво перегенерувати у разі компрометації. Базовий URL — HTTPS://api.groklimity.com/v1 і не вимагає спеціального проміжного програмного забезпечення. Запам’ятайте що ваші дані промпта не використовуються для навчання, що гарантує приватність ваших власних промптів.

Надсилання першого запиту

Надішліть POST-запит до /v1/chat/completions із ідентифікатором моделі uncensored. Цей ендпоінт приймає стандартні параметри, такі як temperature та stop послідовності. Ви можете перевірити з’єднання за допомогою простого системного повідомлення, щоб переконатися в затримці. Помилки, такі як 401 вказують на недійсний ключ, тоді як 402 означає, що ваш попередній кредит вичерпано. Примітка що контекстне вікно охоплює 100,000 токенів як для вводу, так і для виводу разом.

Copycurl https://api.groklimity.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in the loop."}]
  }'

Інтеграція SDK Python

Встановіть офіційний openai пакет і вкажіть його на наш базовий URL. Це дозволяє використовувати знайомі методи Python для синхронних або асинхронних викликів. Встановіть модель на uncensored щоб забезпечити звернення до правильної кінцевої точки. Ви можете передати список повідомлень так само, як і для GPT-4. Бібліотека автоматично підраховує токени, тому ви завжди знаєте про свої ліміти використання. Порада: використовуйте max_tokens для обмеження виводу та уникнення несподіваного вичерпання кредиту.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groklimity.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Конфігурація Node SDK

Ініціалізуйте клієнта, вказавши свій API-ключ та кастомний базовий URL. Розробники Node можуть скористатися стандартним chat.completions.create метод. Цей підхід безперешкодно працює з існуючими проектами, які вже використовують клієнтів OpenAI. Вам не потрібно переписувати структури запитів. SDK керує HTTP-з'єднанням та ефективно парсить JSON-відповіді. Попередження: якщо ви не встановите max_tokens, за замовчуванням вихід обмежено 2048 токенами.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groklimity.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокові відповіді

Увімкніть потокову передачу, встановивши stream: true у тілі запиту. Це повертає потік подій Server-Sent Events (SSE) з частковими токенами. Ви можете відображати текст у реальному часі під час його генерації, що покращує сприйняту затримку для користувачів. Останній фрагмент містить статистику використання токенів для билінгу. Цей метод ідеально підходить для чат-інтерфейсів, де користувачі очікують миттєвого зворотного зв'язку. Вимога: переконайтеся, що ваш клієнт правильно обробляє події SSE, щоб уникнути витоків пам’яті.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ліміти, помилки & контекст

Кожен ключ дозволяє 300 запитів на хвилину та 8 одночасних запитів. Якщо ви перевищите це обмеження, ви отримаєте 429 помилка ліміту швидкості. Тіла запитів обмежені розміром 8 МБ, що підходить для більшості стандартних історій розмов. Помилки є безкоштовними, тому невдалі запити не споживають ваш передоплачений кредит. Модель підтримує виклик функцій та режим JSON для структурованих виводів. Обмеження: існує лише один активний ключ на обліковий запис, тому обмінюйте ключі обережно.