התחלה מהירה: להדבקה ממשק API תואם ל-OpenAI
תאימות להדבקה של OpenAI פירושו שאתה משנה כתובת בסיס אחת ומפתח אחד, ואז הקוד הקיים שלך רץ מול המודל ללא הצנזרה שלנו ללא שכתוב לוגיקה. מדריך מהיר זה מביא אותך מאפס לתגובה זורמת תוך דקות.
שינוי base_url והגדרת מפתח API
השלב הראשון הוא להפנות את ה-SDK שלך לקצה שלנו. השתמש https://api.whatisopenrouterai.com/v1 ככתובת הבסיס שלך והדבק את המפתח שלך מהלוח. שינוי יחיד זה מפנה את כל הקריאות למודל השפה הגדול שלנו ללא צנזורה תוך שמירה על כותרות OpenAI-compatible הסטנדרטיות שלך.
- צור מפתח דרך Google או אימייל.
- אחסן אותו במשתני הסביבה שלך.
- ודאו שהמפתח עובד עם בקשה פשוטה.
curl https://api.whatisopenrouterai.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Set variable x to five"}]
}'
שלח בקשות ל-/v1/chat/completions
ה-API שלנו מקבל השלמות צ'אט סטנדרטיות עם קלט טקסט ומחזיר פלט טקסט. אתם שולחים בקשת POST ל- /v1/chat/completions נקודת קצה עם מזהה המודל והיסטוריית ההודעות שלכם. מזהה המודל הוא פשוט uncensored, שמתאים את המודל לענות ללא סירובים לתוכן בוגר חוקי.
from openai import OpenAI
client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
זרום טוקנים עם SSE
זרימה מספקת משוב בזמן אמת באמצעות אירועים שנשלחים מהשרת (Server-Sent Events). כל מקטע מכיל טקסט חלקי, והמקטע הסופי כולל סטטיסטיקות שימוש באסימונים. גישה זו שומרת על תגובתיות ממשק המשתמש בזמן ההמתנה להשלמת תשובות ארוכות.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
כף json_object עם response_format
השתמשו ב response_format פרמטר מוגדר ל {"type": "json_object"} כדי לאכוף פלט JSON קפדני. זה מבטיח ניתוח צפוי ליישומים שלך ללא הסתמכות על המודל לנחש את המבנה הנכון בכל פעם.
השתמשו בכלים ובבחירת כלי
פעולת קריאה לפונקציות פועלת בדיוק כמו ממשק ה-API הסטנדרטי של OpenAI. הגדירו את הכלים בבקשה, והמודל יחזיר ארגומנטים מבניים כאשר מתאים. ניתן לכפות שימוש בכלים עם tool_choice או להשאיר למוד להחליט בהתבסס על ההקשר.
בדוק מודלים זמינים
שאילתה (Query) GET /v1/models כדי לראות את המודל הבלתי-מצונזר היחיד הזמין. נקודת הקצה הזו מחזירה את מזהה המודל ופרטים, מאשרת שהשירות שלנו פעיל ומוכן לקבל בקשות. אנו לא מציעים מגוון מודלים, מה שמקל על האינטגרציה וממקד אותה.
זרימה
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)שאלות נפוצות
מהו open router AI
זהו ממשק API מאוחסן, תואם ל-OpenAI, המספק מודל שפה גדול אחד ללא צנזורה. אתה מקבל תחליף ישיר לקוד OpenAI סטנדרטי על ידי שינוי כתובת הבסיס והמפתח. המודל אינו מסרב לתוכן בוגר חוקי, ומספק חווית LLM אמיתית ללא צנזורה.
כיצד לטפל במגבלות קצב ושגיאות?
אתה מקבל שגיאה 401 למפתח לא חוקי, 402 אם אין לך קרדיט, ו-429 למגבלות קצב. המגבלה שלנו היא 300 בקשות לדקה למפתח. שגיאות ודחיות לא צורכות את הטוקנים ששולמו מראש.
מהו גודל חלון ההקשר?
חלון ההקשר הוא 100,000 טוקנים הן לקלט והן לפלט. הפלט המקסימלי לכל בקשה הוא 16,000 טוקנים, או 2,048 אם לא ציינתם את max_tokens. זה מאפשר שיחות ארוכות משמעותית ללא חיתוך מיידי.