ИнференсНачало работы
Первый запрос
Как отправить первый запрос к модели через curl, Python или JavaScript и получить ответ.
Эта страница показывает самый короткий путь от ключа API до ответа модели. Вам понадобится ключ из кабинета и любой из трёх инструментов: curl, SDK OpenAI для Python или SDK OpenAI для JavaScript.
Подготовка
Создайте ключ в кабинете и положите его в переменную окружения YENISEI_KEY.
Как это сделать, описано на странице Ключ API.
Запрос
curl https://api.yenisei.ru/v1/chat/completions \
-H "Authorization: Bearer $YENISEI_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "yenisei-100",
"messages": [{"role": "user", "content": "Привет!"}]
}'
from openai import OpenAI
import os
client = OpenAI(
base_url="https://api.yenisei.ru/v1",
api_key=os.environ["YENISEI_KEY"],
)
resp = client.chat.completions.create(
model="yenisei-100",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)
import OpenAI from "openai"
const client = new OpenAI({
baseURL: "https://api.yenisei.ru/v1",
apiKey: process.env.YENISEI_KEY,
})
const resp = await client.chat.completions.create({
model: "yenisei-100",
messages: [{ role: "user", content: "Привет!" }],
})
console.log(resp.choices[0].message.content)
Что дальше
- Чтобы получать ответ по частям, как в чате, включите потоковую передачу.
- Все параметры запроса описаны на странице Chat Completions.
- Какие модели доступны именно вашему тарифу, покажет метод Models.