Швидкий старт: Plug-and-play API, сумісний з OpenAI

Змінити base_url та встановити API-ключ

Перший крок — вказати ваш SDK на наш ендпоінт. Використовуйте https://api.whatisopenrouterai.com/v1 як вашу базову URL-адресу та вставте свій ключ з панелі керування. Ця єдина зміна перенаправляє всі запити до нашої необмеженої великої мовної моделі, зберігаючи при цьому стандартні заголовки, сумісні з OpenAI.

• Згенеруйте ключ через Google або електронну пошту.
• Збережіть його у змінних середовища.
• Перевірте, чи ключ працює з простим запитом.

Copycurl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

Надсилайте запити до /v1/chat/completions

Наш API приймає стандартні завершення чату з текстовим вводом і повертає текстовий вивід. Ви надсилаєте POST-запит на /v1/chat/completions ендпоінт з вашим ідентифікатором моделі та історією повідомлень. Ідентифікатор моделі просто uncensored, що налаштовує модель на відповіді без відмов для законного дорослого контенту.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потокова передача інструментів через SSE

Потокова передача забезпечує зворотний зв’язок у реальному часі через Server-Sent Events. Кожен фрагмент містить частковий текст, а останній фрагмент включає статистику використання токенів. Цей підхід підтримує інтерфейс користувача в активному стані під час очікування завершення довгих відповідей.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Примусовий json_object з response_format

Використовуйте response_format параметр встановлено на {"type": "json_object"} для примусового суворого виводу JSON. Це забезпечує передбачуване парсингування для ваших додатків без залежності від того, що модель вгадує правильну структуру кожного разу.

Використовуйте інструменти та tool_choice

Виклик функцій працює точно так само, як стандартний API OpenAI. Визначте свої інструменти в запиті, і модель поверне структуровані аргументи, коли це доречно. Ви можете примусово використовувати інструменти за допомогою tool_choice або залишити вибір на розсуд моделі на основі контексту.

Перевірка доступних моделей

Запит GET /v1/models щоб побачити єдину доступну необмежену модель. Цей ендпоінт повертає ID моделі та деталі, підтверджуючи, що наша служба активна та готова приймати запити. Ми не пропонуємо вибір кількох моделей, що робить інтеграцію простою та зосередженою.

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)