Γρήγορη Έναρξη: Plug-in API Συμβατό με OpenAI

Αλλαγή base_url και ορισμός API key

Το πρώτο βήμα είναι να κατευθύνετε το SDK σας στο endpoint μας. Χρησιμοποιήστε https://api.whatisopenrouterai.com/v1 ως τη βάση URL σας και επικολλήστε το κλειδί σας από το dashboard. Αυτή η απλή αλλαγή κατευθύνει όλες τις κλήσεις στο μοντέλο γλώσσας μεγάλου μεγέθους χωρίς λογοκρισία, διατηρώντας τα πρότυπα headers συμβατά με OpenAI.

• Δημιουργήστε ένα κλειδί μέσω Google ή email.
• Αποθηκεύστε το στις μεταβλητές περιβάλλοντός σας.
• Επαληθεύστε ότι το key λειτουργεί με ένα απλό αίτημα.

Copycurl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

Στείλτε αιτήματα στο /v1/chat/completions

Το API μας δέχεται τυπικές ολοκληρώσεις συνομιλίας με είσοδο κειμένου και επιστρέφει έξοδο κειμένου. Στέλνετε μια POST αίτηση στο /v1/chat/completions σημείο τερματισμού με το ID του μοντέλου σας και την ιστορία μηνυμάτων. Το ID του μοντέλου είναι απλώς uncensored, το οποίο ρυθμίζει το μοντέλο να απαντά χωρίς απορρίψεις για νόμιμο περιεχόμενο ενήλικων.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ροή tokens με SSE

Η ροή δεδομένων (streaming) παρέχει ανατροφοδότηση σε πραγματικό χρόνο μέσω Server-Sent Events. Κάθε κομμάτι περιέχει μερικό κείμενο, και το τελικό κομμάτι περιλαμβάνει στατιστικά χρήσης tokens. Αυτή η προσέγγιση διατηρεί το διεπαφή χρήστη ευέλικτη ενώ περιμένετε να ολοκληρωθούν οι απαντήσεις μεγάλου μήκους.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Εξαναγκασμός json_object με response_format

Χρησιμοποιήστε το response_format η παράμετρος ορισμένη σε {"type": "json_object"} για να επιβάλετε αυστηρό JSON output. Αυτό εξασφαλίζει προβλέψιμο parsing για τις εφαρμογές σας χωρίς να βασίζεστε στο μοντέλο να μαντέψει τη σωστή δομή κάθε φορά.

Χρησιμοποιήστε εργαλεία και tool_choice

Η κλήση συναρτήσεων λειτουργεί ακριβώς όπως το τυπικό API OpenAI. Ορίστε τα εργαλεία σας στο αίτημα, και το μοντέλο θα επιστρέψει δομημένα ορίσματα όταν είναι κατάλληλο. Μπορείτε να αναγκάσετε τη χρήση εργαλείων με tool_choice ή αφήστε το μοντέλο να αποφασίσει βάσει του context.

Έλεγχος διαθέσιμων μοντέλων

Ερώτημα GET /v1/models για να δείτε το μοναδικό μοντέλο χωρίς λογοκρισία που διατίθεται. Αυτή η ενότητα επιστρέφει το ID του μοντέλου και λεπτομέρειες, επιβεβαιώνοντας ότι η υπηρεσία μας είναι ενεργή και έτοιμη να δεχτεί αιτήματα. Δεν προσφέρουμε πολλαπλές επιλογές μοντέλων, κρατώντας την ενσωμάτωση απλή και εστιασμένη.

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)