快速入门: 即插即用 OpenAI 兼容 API
即插即用 OpenAI 兼容性意味着您只需更改一个基础 URL 和一个密钥,然后现有代码即可针对我们的无审查模型运行,无需重写逻辑。本快速入门指南可让您在几分钟内从零开始获得流式响应。
更改 base_url 并设置 API key
将你的 SDK 指向我们的端点是第一步。使用 https://api.whatisopenrouterai.com/v1 作为您的基础 URL,并从仪表板粘贴您的密钥。这一单一更改会将所有调用重定向到我们的无审查大语言模型,同时保持您标准的 OpenAI 兼容标头不变。
- 通过 Google 或邮箱生成密钥。
- 将其存储在环境变量中。
- 验证密钥是否可通过简单请求工作。
curl https://api.whatisopenrouterai.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Set variable x to five"}]
}'
向 /v1/chat/completions 发送请求
我们的 API 接受标准的聊天补全请求,输入文本并返回文本输出。您向 /v1/chat/completions 使用您的模型 ID 和消息历史调用端点。模型 ID 仅为 uncensored, 调整模型以在不进行内容拒绝的情况下回答合法成人内容。
from openai import OpenAI
client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
使用 SSE 流式传输令牌
流式传输通过服务器发送事件提供实时反馈。每个块包含部分文本,最后一个块包含令牌使用统计信息。这种方法在等待长篇响应完成时保持您的用户界面响应灵敏。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
使用 response_format 强制 json_object
使用 response_format 参数设置为 {"type": "json_object"} 用于强制执行严格的 JSON 输出。这确保您的应用程序可以预测性地解析数据,而不必依赖模型每次猜测正确的结构。
使用工具与 tool_choice
函数调用与标准 OpenAI API 完全相同。在请求中定义您的工具,模型将在适当时返回结构化参数。您可以使用 tool_choice 或让模型根据上下文决定。
检查可用模型
查询 GET /v1/models 查看可用的单个无审查模型。此端点返回模型 ID 和详细信息,确认我们的服务已激活并准备好接收请求。我们不提供多种模型选择,以保持集成的简洁和专注。
流式传输
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常见问题
什么是 open router AI
这是一个托管的 OpenAI 兼容 API,提供一款无审查的大型语言模型。您只需更改基础 URL 和密钥,即可获得标准 OpenAI 代码的即插即用替代品。该模型不拒绝合法成人内容,提供真正的无审查 LLM 体验。
如何处理速率限制和错误?
无效密钥会返回 401 错误,无信用额度时返回 402 错误,超出速率限制时返回 429 错误。每个密钥的限制为每分钟 300 次请求。错误和拒绝不会消耗您的预付费 token。
上下文窗口大小是多少?
提示和补全的上下文窗口均为 100,000 个 token。每次请求的最大输出为 16,000 个 token,若未指定 max_tokens,则默认为 2,048 个 token。这允许进行大量对话而无需立即截断。