Компактная модель на 12 миллиардов параметров, созданная Mistral AI совместно с NVIDIA: многоязычная, с контекстом 128 тысяч токенов и открытыми весами.
Модель Mistral: Mistral Nemo доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 7,83 ₽ / 1M токенов.
Mistral Nemo появилась в июле 2024 года как совместная разработка Mistral AI и NVIDIA. В ней 12 миллиардов параметров, и по замыслу авторов она служит заменой Mistral 7B. Веса выложены под лицензией Apache 2.0. Контекст равен 131 072 токенам, максимальный ответ составляет 16 384 токена. Модель принимает только текст. Знания ограничены апрелем 2024 года. Особенность Nemo в многоязычности: разработчик называет английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Модель поддерживает вызов функций и структурированный вывод, а по цене она из нижней трети.
OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели mistralai/mistral-nemo. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.
curl https://api.apikley.ru/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "mistralai/mistral-nemo",
"messages": [
{
"role": "user",
"content": "Объясните, что такое API, в двух предложениях."
}
]
}'from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")
response = client.chat.completions.create(
model="mistralai/mistral-nemo",
messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)Разработчик называет девять: английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Качество на своём материале всё равно стоит проверить.
Отправьте запрос в формате OpenAI на базовый адрес https://api.apikley.ru/v1 и укажите mistralai/mistral-nemo в качестве модели. Доступ из России без VPN.
Контекст составляет 131 072 токена, то есть около 128 тысяч. Более длинные тексты придётся делить на части.
Да, веса опубликованы под лицензией Apache 2.0, поэтому модель можно разворачивать самостоятельно. Для этого понадобится собственное оборудование.
Да, вызов функций и вывод по JSON-схеме поддерживаются. Это позволяет строить агентов и извлекать данные в заданном формате.
Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.