Mula Cepat: Sambil API Serasi OpenAI

Tukar base_url dan tetapkan kunci API

Langkah pertama ialah mengarahkan SDK anda ke hujung sambungan kami. Gunakan https://api.whatisopenrouterai.com/v1 sebagai URL asas anda dan tampal kunci anda dari papan pemuka. Perubahan tunggal ini menyaharahkan semua panggilan ke model bahasa besar tanpa sensor kami sambil mengekalkan header serasi OpenAI anda yang standard.

• Jana kunci melalui Google atau e-mel.
• Simpan dalam pembolehubah persekitaran anda.
• Sahkan kunci berfungsi dengan permintaan mudah.

Copycurl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

Hantar permintaan ke /v1/chat/completions

API kami menerima penyelesaian semakan piawai dengan input teks dan mengembalikan output teks. Anda menghantar permintaan POST ke /v1/chat/completions endpoint dengan ID model dan sejarah mesej anda. ID model hanyalah uncensored, yang menyesuaikan model untuk menjawab tanpa penolakan untuk kandungan dewasa yang sah.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Alirkan token dengan SSE

Penstriman memberikan maklum balas masa nyata melalui Acara Dihantar Pelayan. Setiap bahagian mengandungi teks separuh, dan bahagian terakhir termasuk statistik penggunaan token. Pendekatan ini mengekalkan antara muka pengguna anda responsif sambil menunggu respons bentuk panjang selesai.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Paksa json_object dengan response_format

Gunakan response_format parameter ditetapkan kepada {"type": "json_object"} untuk memaksakan output JSON yang ketat. Ini memastikan penguraian yang boleh diramal untuk aplikasi anda tanpa bergantung pada model untuk meneka struktur yang betul setiap masa.

Gunakan alat dan tool_choice

Pemanggilan fungsi berfungsi sama seperti API OpenAI piawai. Takrifkan alat anda dalam permintaan, dan model akan mengembalikan hujah terstruktur apabila sesuai. Anda boleh memaksa penggunaan alat dengan tool_choice atau biarkan model memutuskan berdasarkan konteks.

Semak model yang tersedia

Query GET /v1/models untuk melihat model tanpa sensor tunggal yang tersedia. Hujung ini mengembalikan ID model dan butiran, mengesahkan bahawa perkhidmatan kami aktif dan sedia menerima permintaan. Kami tidak menawarkan pilihan model pelbagai, mengekalkan integrasi yang mudah dan fokus.

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)