hu ▾
Hozzon kulcsot

Gyors beállítások: Beillesztéses OpenAI Kompatibilis API

A beillesztéses OpenAI kompatibilitás azt jelenti, hogy megváltoztatod a base URL-t és a kulcsot, majd a meglévő kódod az uncensored modellünkkel fut anélkül, hogy át kellene írnod a logikát. Ez a quickstart percek alatt streamelt válaszhoz juttat.

Módosítsa a base_url-t és állítsa be az API kulcsot

A szakaszok első mondata megválaszolja a címükben szereplő kérdést. Az első lépés az SDK irányítása a mi endpointunkra. Használd https://api.whatisopenrouterai.com/v1 alap URL-ként, és illeszd be a kulcsot a irányítópultból. Ez egyetlen módosítás minden hívást az uncensored nagy nyelvi modellünkre irányít, miközben megőrzi a szabványos OpenAI-kompatibilis fejléceket.

  • Generáljon egy kulcsot Google-fiókkal vagy e-maillel.
  • Tárolja el a környezeti változókban.
  • Ellenőrizze, hogy a kulcs működik-e egy egyszerű kéréssel.
curl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

Küldjön kérelmeket a /v1/chat/completions végpontra

API-nk fogadja a szabványos chat completions kéréseket szöveg bemenettel, és szöveg kimenetet ad vissza. Küldj egy POST kérést a /v1/chat/completions endpoint a modell azonosítójával és az üzenet történettel. A modell azonosítója egyszerűen uncensored, amely a modellt úgy hangolja, hogy visszautasítás nélkül válaszoljon jogszerű felnőtt tartalomhoz.

from openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamelje a tokeneket SSE segítségével

A streamelés valós idejű visszajelzést biztosít Server-Sent Events segítségével. Minden darab részleges szöveget tartalmaz, az utolsó darab pedig a token-használati statisztikákat. Ez a megközelítés reszponzívben tartja a felhasználói felületet, miközben a hosszú formátumú válaszok befejeződnek.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

json_object kényszerítése a response_format segítségével

Használja a response_format paraméter beállítva {"type": "json_object"} a szigorú JSON kimenet kikényszerítésére. Ez kiszámítható feldolgozást biztosít az alkalmazásai számára anélkül, hogy a modellre kellene hagyatkoznia a helyes struktúra kitalálásában minden alkalommal.

Használjon eszközöket és tool_choice-t

A function calling pontosan úgy működik, mint a szabványos OpenAI API. Definiálja eszközeit a kérésben, és a modell strukturált argumentumokat ad vissza, amikor megfelelő. Erőszakolhatja az eszközhasználatot tool_choice vagy hagyd a modellre dönteni a kontextus alapján.

Elérhető modellek ellenőrzése

Lekérdezés GET /v1/models a egyetlen elérhető cenzúrázatlan modell megtekintéséhez. Ez a végpont visszaadja a modell azonosítóját és részleteit, megerősítve, hogy a szolgáltatás aktív és készen áll a kérések fogadására. Nem kínálunk több modellválasztékot, így az integráció egyszerű és fókuszált marad.

Streamelés

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gyakran ismételt kérdések

mi az open router AI

Ez egy hosztolt, OpenAI-kompatibilis API, amely egyetlen cenzúrázatlan nagy nyelvi modellt szolgál ki. Egy azaz egy helyettesítőt kap a szabványos OpenAI kódhoz a base URL és a kulcs megváltoztatásával. A modell nem utasít el jogszerű felnőtt tartalmat, valódi cenzúrázatlan LLM élményt nyújtva.

Hogyan kezelje a sebességkorlátozásokat és a hibákat?

Érvénytelen kulcs esetén 401-es, ha nincs hiteléd, 402-es, ha pedig túlléped a sebességhatárt, 429-es hibakódot kapsz. A korlát kulcsonként percenként 300 kérés. A hibák és elutasítások nem fogyasztják a előre fizetett tokeneket.

Mekkora a kontextusablak mérete?

A kontextusablak 100 000 token mind a prompt, mind a completion esetén. A kérésenkénti maximális kimenet 16 000 token, vagy 2 048, ha nem adja meg a max_tokens paramétert. Ez lehetővé teszi a jelentős beszélgetéseket azonnali levágás nélkül.