Szybki start: Plug-and-Play API Kompatybilny z OpenAI
Kompatybilność z OpenAI typu Plug-and-Play oznacza, że zmieniasz jeden adres bazowy i jeden klucz, a następnie Twój istniejący kod działa z naszym modelem bez cenzury bez przepisywania logiki. Ten szybki start pozwala przejść od zera do odpowiedzi strumieniowej w kilka minut.
Zmień base_url i ustaw klucz API
Pierwszym krokiem jest wskazanie Twojego SDK na nasz punkt końcowy. Użyj https://api.whatisopenrouterai.com/v1 jako swój bazowy adres URL i wklej swój klucz z panelu. Ta jedna zmiana przekierowuje wszystkie wywołania do naszego modelu językowego dużej klasy bez cenzury, zachowując jednocześnie standardowe nagłówki kompatybilne z OpenAI.
- Wygeneruj klucz przez Google lub e-mail.
- Przechowuj go w zmiennych środowiskowych.
- Upewnij się, że klucz działa z prostym żądaniem.
curl https://api.whatisopenrouterai.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Set variable x to five"}]
}'
Wysyłaj żądania do /v1/chat/completions
Nasze API akceptuje standardowe uzupełnienia czatu z wejściem tekstowym i zwraca wynik tekstowy. Wysyłasz żądanie POST do /v1/chat/completions endpoint z identyfikatorem modelu i historią wiadomości. Identyfikator modelu to po prostu uncensored, który dostroi model do odpowiadania bez odmów treści dla treści dla dorosłych.
from openai import OpenAI
client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Strumuj tokeny z SSE
Strumieniowanie zapewnia informację zwrotną w czasie rzeczywistym za pomocą zdarzeń wysłanych przez serwer. Każdy fragment zawiera częściowy tekst, a ostatni fragment zawiera statystyki użycia tokenów. Podejście to utrzymuje interfejs użytkownika responsywny podczas oczekiwania na ukończenie odpowiedzi długich.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Wymuś json_object z response_format
Korzystaj z response_format parametr ustawiony na {"type": "json_object"} do wymuszenia ścisłego wyjścia JSON. Zapewnia to przewidywalne parsowanie dla Twoich aplikacji bez polegania na zgadywaniu przez model poprawnej struktury za każdym razem.
Używaj narzędzi i tool_choice
Wywoływanie funkcji działa dokładnie jak standardowe API OpenAI. Zdefiniuj swoje narzędzia w żądaniu, a model zwróci strukturalne argumenty, gdy to odpowiednie. Możesz wymusić użycie narzędzi za pomocą tool_choice lub pozwolić modelowi zdecydować na podstawie kontekstu.
Sprawdź dostępne modele
Zapytanie GET /v1/models do wyświetlenia pojedynczego dostępnego modelu bez cenzury. To endpoint zwraca ID modelu i szczegóły, potwierdzając, że nasza usługa jest aktywna i gotowa do przyjmowania żądań. Nie oferujemy wyboru wielu modeli, co utrzymuje integrację prostą i skoncentrowaną.
Strumieniowanie
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Najczęściej zadawane pytania
czym jest open router AI
Jest to hostowana, kompatybilna z OpenAI API obsługująca jeden niecenzurowany duży model językowy. Otrzymujesz zamiennik plug-and-play dla standardowego kodu OpenAI, zmieniając podstawowy adres URL i klucz. Model nie odrzuca legalnych treści dla dorosłych, zapewniając prawdziwe doświadczenie z niecenzurowanym LLM.
Jak radzić sobie z limitami szybkości i błędami?
Otrzymujesz błąd 401 dla nieprawidłowego klucza, 402 jeśli brakuje kredytu oraz 429 przy przekroczeniu limitu. Twój limit to 300 żądań na minutę na klucz. Błędy i odrzucenia nie zużywają Twoich opłaconych tokenów.
Jaki jest rozmiar okna kontekstowego?
Okno kontekstowe wynosi 100 000 tokenów zarówno dla promptu, jak i uzupełnienia. Maksymalna liczba tokenów wyjściowych na żądanie to 16 000, lub 2 048, jeśli nie określisz max_tokens. Pozwala to na prowadzenie obszernej rozmowy bez natychmiastowego przycinania.