Grok limity API: Mula Pantas Panduan

Pengesahan & URL Asas

Mulakan dengan menetapkan kunci API dan URL asas anda dalam konfigurasi klien. Perkhidmatan kami menggunakan pengepala standard, jadi anda boleh menukar kepada tetapan SDK OpenAI sedia ada anda tanpa menulis semula logik anda. Anda menerima satu kunci aktif per akaun, yang boleh anda jana semula serta-merta jika dikompromikan. URL asas ialah HTTPS://api.groklimity.com/v1 dan tidak memerlukan perisian perantara khas. Perhatikan yang data prompt anda tidak digunakan untuk latihan, memastikan privasi untuk prompt milik peribadi anda.

Menghantar Permintaan Pertama Anda

Hantar permintaan POST ke /v1/chat/completions dengan ID model uncensored. Hujung sambungan ini menerima parameter piawai seperti temperature dan stop urutan. Anda boleh menguji sambungan dengan mesej sistem mudah untuk mengesahkan latensi. Ralat seperti 401 menunjukkan kunci tidak sah, manakala 402 bermaksud kredit pra-dibayar anda telah habis. Nota yang mana tetingkap konteks merangkumi 100,000 token untuk input dan output digabungkan.

Copycurl https://api.groklimity.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in the loop."}]
  }'

Integrasi SDK Python

Pasang rasmi openai pakej dan tunjukkannya ke URL asas kami. Ini membolehkan anda menggunakan kaedah Python yang biasa untuk panggilan selanjar atau tidak selanjar. Tetapkan model kepada uncensored untuk memastikan anda mencapai titik akhir yang betul. Anda boleh menghantar senarai mesej sama seperti yang anda lakukan dengan GPT-4. Perpustakaan mengira token secara automatik, jadi anda sentiasa sedar had penggunaan anda. Petua: guna max_tokens untuk menafikan output dan mengelakkan penarikan kredit yang tidak dijangka.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groklimity.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurasi SDK Node

Mulakan klien dengan kunci API anda dan URL asas tersuai. Pembangun Node boleh memanfaatkan standard chat.completions.create kaedah. Pendekatan ini berfungsi dengan lancar dengan projek sedia ada yang sudah menggunakan klien OpenAI. Anda tidak perlu menulis semula struktur permintaan anda. SDK menguruskan sambungan HTTP dan menguraikan respons JSON dengan cekap. Amaran: jika anda tidak menetapkan max_tokens, output lalai adalah terhad kepada 2,048 token.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groklimity.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respons Streaming

Aktifkan aliran dengan menetapkan stream: true dalam badan permintaan anda. Ini mengembalikan aliran Server-Sent Events (SSE) token separa. Anda boleh memaparkan teks secara masa nyata semasa ia dijana, meningkatkan latensi yang dirasakan oleh pengguna. Blok akhir mengandungi statistik penggunaan token keseluruhan untuk pengebilan. Kaedah ini sesuai untuk antara muka perbualan di mana pengguna mengharapkan maklum balas segera. Keperluan: memastikan klien anda mengendalikan acara SSE dengan betul untuk mengelakkan kebocoran memori.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Had, Ralat & Konteks

Setiap kunci membolehkan 300 permintaan per minit dan 8 permintaan serentak. Jika anda melebihi ini, anda menerima 429 ralat had kadar. Badan permintaan dibatasi pada 8 MB, yang sesuai untuk kebanyakan sejarah perbualan. Ralat adalah percuma, jadi permintaan yang gagal tidak menggunakan kredit pra-dibayar anda. Model menyokong panggilan fungsi dan mod JSON untuk output terstruktur. Batasan: hanya satu kunci aktif wujud per akaun, jadi putar kunci dengan berhati-hati.