ИнференсНачало работы
Переезд с OpenAI
Меняются две строки: адрес и ключ.
from openai import OpenAI
client = OpenAI(
base_url="https://api.yenisei.ru/v1", # было api.openai.com
api_key=os.environ["YENISEI_KEY"], # ключ из кабинета Yenisei
)
const client = new OpenAI({
baseURL: "https://api.yenisei.ru/v1", // было api.openai.com
apiKey: process.env.YENISEI_KEY, // ключ из кабинета Yenisei
})
Имя модели — из каталога Yenisei: например yenisei-100 вместо
привычного вам имени. Список того, что доступно вашему тарифу, отдаёт
GET /v1/models.
Что работает так же
messages, stream, temperature, top_p, seed, stop,
response_format, tools, max_tokens и max_completion_tokens,
reasoning_effort. Ответ приходит в том же виде: choices[].message.content,
usage с числом токенов.
Что отличается
max_tokensиmax_completion_tokensобрезаются до предела модели: больше, чем модель умеет выдать, попросить нельзя.- Пределы расхода считаются в кредитах по трём окнам — сессия, неделя, месяц. Подробнее: Пределы расхода.
- У моделей с размышлениями текст размышления приходит в
choices[].message.reasoning— Размышления.