Pika-aloitus: Drop-in OpenAI-yhteensopiva API

Vaihda base_url ja aseta API-avain

Jokaisen osion ensimmäinen lause vastaa osion otsikossa esitettyyn kysymykseen. Ensimmäinen askel on osoittaa SDK:si päätepisteeseemme. Käytä https://api.whatisopenrouterai.com/v1 pohja-URL:ksi ja liitä näppäimistösi hallintapaneelista. Tämä yksittäinen muutos ohjaa kaikki pyynnöt suuren, sensuroimattoman kielimallimme palveluun pitäen samalla voimassa standardit OpenAI-yhteensopivat otsikot.

• Luo avain Google- tai sähköpostitunnuksella.
• Tallenna se ympäristömuuttujiin.
• Varmista, että avain toimii yksinkertaisella pyynnöllä.

Copycurl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

Lähetä pyyntöjä /v1/chat/completions

API:namme hyväksyy standardit keskustelulopetukset tekstisyötteellä ja palauttaa tekstitulosteen. Lähetä POST-pyyntö osoitteeseen /v1/chat/completions endpoint mallin tunnuksella ja viestihistorialla. Mallin tunnus on yksinkertaisesti uncensored, joka hienosääntää mallia vastaamaan ilman kieltoja lailliseen aikuisisisältöön.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Vuoita tokeni SSE:n kautta

Streamaus tarjoaa reaaliaikaista palautetta Server-Sent Events -tekniikan kautta. Jokainen paketti sisältää osittaista tekstiä, ja viimeinen paketti sisältää merkkien käyttötilastot. Tämä lähestymistapa pitää käyttöliittymänsi reaktiivisena pitkien tekstivastausten valmistumista odotettaessa.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pakota json_object response_format-asetuksella

Käytä response_format parametri asetettu {"type": "json_object"} pakottaa tiukan JSON-tulosteen. Tämä varmistaa ennustettavan jäsentämisen sovelluksillesi ilman, että luotat mallin arvauksiin oikeasta rakenteesta joka kerta.

Käytä työkaluja ja tool_choicea

Function calling toimii täsmälleen standardin OpenAI-API:n mukaisesti. Määrittele työkalusi pyynnössä, ja malli palauttaa rakenteiset argumentit sopivissa tapauksissa. Voit pakottaa työkalujen käytön tool_choice tai anna mallin päättää kontekstin perusteella.

Tarkista saatavilla olevat mallit

Kysely GET /v1/models nähdä saatavilla oleva yksittäinen puuttumaton malli. Tämä päätepiste palauttaa mallin tunnisteen ja tiedot, vahvistaen palvelumme olevan aktiivinen ja valmis vastaanottamaan pyyntöjä. Emme tarjoa useita mallivaihtoehtoja, mikä pitää integraation yksinkertaiseksi ja keskittyneeksi.

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)