ИнференсВозможности

Вызов инструментов

Модель просит вызвать вашу функцию, вы отдаёте ей результат.

Поле tools шлюз передаёт модели как есть, в формате OpenAI. Умеет ли модель вызывать инструменты, видно в каталоге и в GET /v1/models — признак tools в capabilities.

{
  "model": "yenisei-100",
  "messages": [{"role": "user", "content": "Какая погода в Красноярске?"}],
  "tools": [{
    "type": "function",
    "function": {
      "name": "get_weather",
      "description": "Погода в городе",
      "parameters": {
        "type": "object",
        "properties": { "city": { "type": "string" } },
        "required": ["city"]
      }
    }
  }]
}

Модель отвечает не текстом, а просьбой вызвать функцию — в choices[].message.tool_calls. Вы вызываете её у себя и отправляете следующий запрос, добавив в messages сообщение с ролью tool и результатом. Дальше модель отвечает словами.