Avvio rapido: Plug-and-Play API Compatibile con OpenAI

Modifica base_url e imposta la chiave API

Il primo passaggio consiste nel puntare il tuo SDK al nostro endpoint. Utilizza https://api.whatisopenrouterai.com/v1 come tuo URL di base e incolla la tua chiave dalla dashboard. Questa singola modifica reindirizza tutte le chiamate al nostro modello linguistico di grandi dimensioni non censurato, mantenendo intatti gli header standard compatibili con OpenAI.

• Genera una chiave tramite Google o email.
• Memorizzalo nelle variabili di ambiente.
• Verifica che la chiave funzioni con una richiesta semplice.

Copycurl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

Invia a /v1/chat/completions

La nostra API accetta chat standard con input di testo e restituisce output di testo. Invii una richiesta POST a /v1/chat/completions endpoint con il tuo ID modello e la cronologia dei messaggi. L'ID modello è semplicemente uncensored, che regola il modello per rispondere senza rifiuti per contenuti adulti legali.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Esegui lo streaming dei token con SSE

Lo streaming fornisce feedback in tempo reale tramite Server-Sent Events. Ogni chunk contiene testo parziale e l'ultimo chunk include le statistiche di utilizzo dei token. Questo approccio mantiene l'interfaccia utente reattiva mentre si attende il completamento delle risposte di testo lungo.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Forza json_object con response_format

Usa il response_format il parametro impostato su {"type": "json_object"} per imporre un output JSON rigoroso. Questo garantisce un parsing prevedibile per le tue applicazioni senza affidarsi al modello per indovinare la struttura corretta ogni volta.

Utilizza gli strumenti e tool_choice

Il function calling funziona esattamente come l'API OpenAI standard. Definisci i tuoi strumenti nella richiesta e il modello restituirà argomenti strutturati quando appropriato. Puoi forzare l'utilizzo degli strumenti con tool_choice o lascia decidere al modello in base al contesto.

Verifica i modelli disponibili

Query GET /v1/models per vedere l'unico modello uncensored disponibile. Questo endpoint restituisce l'ID del modello e i dettagli, confermando che il nostro servizio è attivo e pronto a ricevere richieste. Non offriamo scelte multiple di modelli, mantenendo l'integrazione semplice e focalizzata.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)