Llama 3.3 70B: чем была хороша и на что с неё переходить

Llama 3.3 70B долго оставалась одной из самых ходовых открытых моделей: на ней написана заметная часть готовых промптов и интеграций. В каталоге Yenisei её больше нет — ниже о том, за что её ценили и что взять вместо неё.

За что ценили Llama 3.3 70B

• Предсказуемость. Модель изучена вдоль и поперёк: её поведение, слабые места, как составлять для неё запросы — всё описано сообществом.
• Экосистема. Тысячи готовых промптов, шаблонов и интеграций писались именно под неё.
• Баланс цены и качества. 70B — достаточно большая для сложных текстовых задач и достаточно дешёвая для объёма.

На что переходить

• Llama 4 Maverick (llama-4-maverick) — прямой наследник в линейке Meta: та же экосистема, плюс изображения на входе и контекст около миллиона токенов.
• Llama 4 Scout (llama-4-scout) — легче и дешевле, окно больше миллиона токенов, тоже понимает картинки.
• GPT-OSS 120B (gpt-oss-120b) — открытая модель OpenAI, если нужны ещё и рассуждения.

from openai import OpenAI
client = OpenAI(base_url="https://api.yenisei.ru/v1", api_key="YENISEI_KEY")
resp = client.chat.completions.create(
    model="llama-4-maverick",
    messages=[{"role": "user", "content": "Суммируй эти абзацы в три пункта."}],
    temperature=0.2,
)
print(resp.choices[0].message.content)

Как переехать без сюрпризов

• Прогоните свои промпты. Возьмите 30–50 типичных запросов и сравните ответы старой и новой модели. Промпты, отлаженные под 3.3, обычно работают и на Llama 4, но форматирование ответа может отличаться.
• Зафиксируйте температуру. Для воспроизводимости держите temperature низкой — так проще сравнивать.
• Проверьте длину ответов. Новые модели иногда пишут подробнее; если это важно, ограничьте длину в инструкции.

Про русский без иллюзий

Линейка Meta по русскому — середняк. На простых задачах терпимо, но если продукт русскоязычный и текст идёт наружу, честнее взять модель с сильным русским — например, DeepSeek V4 Pro (deepseek-pro) или Qwen3.8 27B (qwen3.8-27b). Llama оставьте на английские и технические задачи, где она в своей стихии.