Grok limity API: Nopea aloitus Opas

Todennus & Base URL

Aloita asettamalla API-avaimesi ja perus-URL-osoitteesi asiakasasetuksissa. Palvelumme käyttää standardipäätteitä, joten voit liittää olemassa olevat OpenAI-SDK-asetuksesi ilman logiikan uudelleenkirjoittamista. Saat yhden aktiivisen avaimen per tili, jonka voit regeneroida välittömästi, jos se on vaarantunut. Perus-URL-osoite on HTTPS://api.groklimity.com/v1 eikä se vaadi erityistä väliohjelmistoa. Muista joka varmistaa, että prompt-tietojasi ei käytetä koulutukseen, taaten yksityisyyden omille promptillesi.

Ensimmäisen pyynnön lähettäminen

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions mallitunnuksella uncensored. Tämä päätepiste hyväksyy vakiintuneita parametreja kuten temperature ja stop sekvenssit. Voit testata yhteyden yksinkertaisella järjestelmäviestillä varmistaaksesi viiveen. Virheet kuten 401 viittaavat virheelliseen avaimeseen, kun taas 402 merkitsee, että esimaksuttomat varat on käytetty loppuun. Huom jota konteksti-ikkuna kattaa 100 000 tokenia sekä syötteessä että tulosteessa yhteensä.

Copycurl https://api.groklimity.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix the syntax error in the loop."}]
  }'

Python SDK -integraatio

Asenna virallinen openai pakkaa ja osoita se base URL -osoitteeseemme. Tämä mahdollistaa tutkittujen Python-menetelmien käytön synkronisiin tai asynkronisiin kutsuihin. Aseta malliksi uncensored varmistamaan, että osut oikeaan päätepisteeseen. Voit välittää listan viesteistä aivan kuten GPT-4:n kanssa. Kirjasto laskee tokenit automaattisesti, joten pysyt tietoisena käyttörajoituksistasi. Vinkki: käytä max_tokens rajoittaaksesi lähtöä ja välttääksesi odottamattoman kreditin tyhjenemisen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groklimity.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK -konfiguraatio

Alusta asiakas API-avaimellasi ja mukautetulla base URLilla. Node-kehittäjät voivat hyödyntää standardia chat.completions.create metodi. Tämä lähestymistapa toimii saumattomasti olemassa olevien projektien kanssa, jotka käyttävät jo OpenAI-asiakkaita. Sinun ei tarvitse kirjoittaa uudelleen pyyntörakenteitasi. SDK hallitsee HTTP-yhteyden ja jäsentää JSON-vastaukset tehokkaasti. Varoitus: jos et aseta max_tokens, oletustulos on rajoitettu 2 048 tokeniin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groklimity.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamausvastaukset

Ota streamaus käyttöön asettamalla stream: true pyyntöruumiussasi. Tämä palauttaa osittaisten tokenien Server-Sent Events (SSE) -virran. Voit renderoida tekstiä reaaliaikaisesti sen tuotannon aikana, mikä parantaa käyttäjien kokemaa viiveellisyyttä. Viimeinen lohko sisältää kokonaisten tokenien käyttötilastot laskutusta varten. Tämä menetelmä on ihanteellinen chatrajapinnoille, joissa käyttäjät odottavat välitöntä palautetta. Vaatimus: varmista, että asiakasosi käsittelee SSE-tapahtumat oikein välttääksesi muotovuodot.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rajoitukset, virheet & konteksti

Jokainen avain sallii 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä. Jos ylität tämän, saat 429 rate limit error. Pyyntöjen rungot on rajoitettu 8 MB:aan, mikä sopii useimpiin standardikeskusteluhistorioihin. Virheet ovat ilmaisia, joten epäonnistuneet pyynnöt eivät kuluta esimaksusaldoasi. Malli tukee toimintokutsuja ja JSON-tilaa rakenteisille lähdöille. Rajoite: vain yksi aktiivinen avain on tilillä, joten vaihda avaimia huolellisesti.