ИнференсВозможности
Ответ в формате JSON
Как получить от модели ответ строго в формате JSON, чтобы разбирать его программой без лишнего текста.
Ответ в формате JSON нужен, когда результат работы модели читает не человек,
а программа: например, вы просите разобрать адрес на части. Без этого режима
модель может добавить к JSON пояснения, и разобрать такой ответ будет сложнее.
Режим включается параметром response_format.
Запрос
JSON
{
"model": "yenisei-100",
"messages": [
{"role": "system", "content": "Отвечай только JSON."},
{"role": "user", "content": "Разбери адрес: Красноярск, пр. Мира, 10"}
],
"response_format": { "type": "json_object" }
}
Ответ
Содержимое ответа в choices[].message.content будет строкой с JSON. Вам
остаётся только разобрать её.
Скажите модели в запросе, какие поля вам нужны. Режим гарантирует, что ответ можно разобрать как JSON, но не угадывает вашу схему.