시작하기: 드롭인 OpenAI 호환 API

base_url을 변경하고 API 키를 설정하세요

첫 단계는 SDK를 저희 엔드포인트에 연결하는 것입니다. 다음을 사용하세요. https://api.whatisopenrouterai.com/v1 베이스 URL로 사용하고 대시보드에서 키를 붙여넣습니다. 이 단일 변경으로 표준 OpenAI 호환 헤더를 유지한 채 모든 호출을 비제약 대형 언어 모델로 리디렉션합니다.

• Google 또는 이메일을 통해 키를 생성하세요.
• 환경 변수에 저장하세요.
• 키가 간단한 요청과 함께 작동하는지 확인하십시오.

Copycurl https://api.whatisopenrouterai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to five"}]
  }'

/v1/chat/completions에 요청 보내기

당사 API는 텍스트 입력을 받는 표준 채팅 완료 요청을 수락하고 텍스트 출력을 반환합니다. POST 요청을 /v1/chat/completions 모델 ID와 메시지 기록을 사용하여 엔드포인트에 접근합니다. 모델 ID는 단순히 uncensored합법적인 성인 콘텐츠에 대한 거부 없이 답변하도록 모델을 조정합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.whatisopenrouterai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SSE로 토큰 스트리밍

스트리밍은 서버 전송 이벤트를 통해 실시간 피드백을 제공합니다. 각 청크에는 부분 텍스트가 포함되며, 마지막 청크에는 토큰 사용량 통계가 포함됩니다. 이 접근 방식은 긴 형식의 응답이 완료되기를 기다리는 동안 사용자 인터페이스가 반응형으로 유지되도록 합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.whatisopenrouterai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

response_format을 사용하여 json_object 강제

을 사용하세요 response_format 파라미터가 {"type": "json_object"} 엄격한 JSON 출력을 강제합니다. 이는 모델이 매번 올바른 구조를 추측하는 데 의존하지 않고 애플리케이션에 예측 가능한 파싱을 보장합니다.

도구와 tool_choice 사용

함수 호출은 표준 OpenAI API와 정확히 동일하게 작동합니다. 요청에서 도구를 정의하고, 모델은 적절한 경우 구조화된 인수를 반환합니다. 도구 사용을 강제할 수 있습니다 tool_choice 또는 모델이 컨텍스트에 따라 결정하도록 하세요.

사용 가능한 모델 확인

쿼리 GET /v1/models 사용 가능한 단일 무검열 모델을 확인합니다. 이 엔드포인트는 모델 ID와 세부 정보를 반환하여 우리 서비스가 활성화되어 요청을 받을 준비가 되었음을 확인합니다. 우리는 여러 모델 옵션을 제공하지 않아 통합을 단순하고 집중적으로 유지합니다.

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)