Hermes 4 405B от Nous Research: большая текстовая модель с гибридным режимом рассуждений, который можно включать для сложных задач и отключать для коротких ответов.
Модель Nous: Hermes 4 405B доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 270 ₽ / 1M токенов.
Hermes 4 405B — версия на 405 миллиардов параметров в четвёртом поколении Hermes от Nous Research. По описанию разработчика, это модель с гибридным режимом рассуждений: она может обдумать задачу внутри блока размышлений перед ответом, а может отвечать сразу. Контекст составляет 131 072 токена, максимальная длина ответа около 118 тысяч токенов. Такой запас по выходу удобен, когда нужен длинный связный текст или подробный разбор без нарезки на части. Модель работает только с текстом, изображения на вход не принимаются. Разработчик отдельно обучал модель выдавать корректный JSON по заданной схеме и исправлять повреждённые объекты. Он также заявляет о высокой управляемости и сниженной доле отказов: поведение задаётся системным промптом. Знания модели ограничены августом 2024 года.
OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели nousresearch/hermes-4-405b. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.
curl https://api.apikley.ru/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "nousresearch/hermes-4-405b",
"messages": [
{
"role": "user",
"content": "Объясните, что такое API, в двух предложениях."
}
]
}'from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")
response = client.chat.completions.create(
model="nousresearch/hermes-4-405b",
messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)Через параметр reasoning в запросе. По описанию разработчика, модель сама решает, когда рассуждать: тогда она выдаёт блок размышлений между тегами think и после него отвечает.
Нет, модель принимает и выдаёт только текст. Для работы с картинками нужна модель с поддержкой зрения либо предварительное распознавание содержимого.
Максимальный ответ составляет около 118 тысяч токенов при общем контексте 131 072 токена. Этого хватает на длинный отчёт целиком, но промпт и ответ вместе не должны превышать контекст.
Да, модель поддерживает структурированный вывод, и разработчик отдельно обучал её соблюдать схему и чинить некорректный JSON. Формат ответа задаётся параметром response_format.
Отправьте запрос в формате OpenAI на базовый адрес https://api.apikley.ru/v1, указав в поле model значение nousresearch/hermes-4-405b.
Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.