ИнференсНачало работы

Переход с OpenAI

Как перевести программу, написанную под API OpenAI, на API Yenisei и чем эти два API отличаются.

API Yenisei повторяет формат API OpenAI, поэтому переписывать программу не нужно. Достаточно поменять две строки в настройках клиента — адрес и ключ — и подставить имя модели из каталога Yenisei. Ниже описано, что именно изменить и в чём два API расходятся.

Адрес и ключ

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://api.yenisei.ru/v1",   # было api.openai.com
    api_key=os.environ["YENISEI_KEY"],      # ключ из кабинета Yenisei
)

const client = new OpenAI({
  baseURL: "https://api.yenisei.ru/v1", // было api.openai.com
  apiKey: process.env.YENISEI_KEY,      // ключ из кабинета Yenisei
})

Имя модели

Имя модели берётся из каталога Yenisei: например, yenisei-100 вместо привычного вам имени. Список моделей, доступных вашему тарифу, возвращает метод GET /v1/models.

Что работает так же

Параметры messages, stream, temperature, top_p, seed, stop, response_format, tools, max_tokens, max_completion_tokens и reasoning_effort принимаются в том же виде, что и в API OpenAI. Ответ тоже приходит в привычном виде: текст в choices[].message.content, число токенов в usage.

Что отличается

• Значения max_tokens и max_completion_tokens обрезаются до предела модели: попросить больше, чем модель умеет выдать, нельзя.
• Лимиты расхода считаются в кредитах по трём окнам — сессии, неделе и месяцу. Подробнее на странице Лимиты и расход.
• У моделей с рассуждениями текст рассуждений приходит в отдельном поле choices[].message.reasoning. Подробнее на странице Рассуждения.