ИнференсНачало работы

Переезд с OpenAI

Меняются две строки: адрес и ключ.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.yenisei.ru/v1",   # было api.openai.com
    api_key=os.environ["YENISEI_KEY"],      # ключ из кабинета Yenisei
)

Имя модели — из каталога Yenisei: например yenisei-100 вместо привычного вам имени. Список того, что доступно вашему тарифу, отдаёт GET /v1/models.

Что работает так же

messages, stream, temperature, top_p, seed, stop, response_format, tools, max_tokens и max_completion_tokens, reasoning_effort. Ответ приходит в том же виде: choices[].message.content, usage с числом токенов.

Что отличается

  • max_tokens и max_completion_tokens обрезаются до предела модели: больше, чем модель умеет выдать, попросить нельзя.
  • Пределы расхода считаются в кредитах по трём окнам — сессия, неделя, месяц. Подробнее: Пределы расхода.
  • У моделей с размышлениями текст размышления приходит в choices[].message.reasoningРазмышления.