Mistral: Mistral Nemo

Компактная модель на 12 миллиардов параметров, созданная Mistral AI совместно с NVIDIA: многоязычная, с контекстом 128 тысяч токенов и открытыми весами.

Модель Mistral: Mistral Nemo доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 7,83 ₽ / 1M токенов.

Автор
Mistral AI
ID модели
mistralai/mistral-nemo
Контекст
131K токенов
Max output
16.4K токенов
Модальности
текст → текст
Вход
78,3 кредитов / 1M токенов · 7,83 ₽ / 1M токенов · 1 ₽ = 10 кредитов
Выход
81 кредитов / 1M токенов · 8,1 ₽ / 1M токенов · 1 ₽ = 10 кредитов
Дата релиза
19.07.2024
Доступность
Нет свежих данных проверки

Описание

Mistral Nemo появилась в июле 2024 года как совместная разработка Mistral AI и NVIDIA. В ней 12 миллиардов параметров, и по замыслу авторов она служит заменой Mistral 7B. Веса выложены под лицензией Apache 2.0. Контекст равен 131 072 токенам, максимальный ответ составляет 16 384 токена. Модель принимает только текст. Знания ограничены апрелем 2024 года. Особенность Nemo в многоязычности: разработчик называет английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Модель поддерживает вызов функций и структурированный вывод, а по цене она из нижней трети.

Кому подходит

  • Проектам с большим потоком запросов: фоновая обработка, классификация, извлечение полей
  • Многоязычным сервисам, работающим с европейскими и азиатскими языками
  • Тем, кто хочет прототипировать на модели, веса которой доступны под Apache 2.0

Ограничения

  • Только текстовый вход: изображения и аудио модель не принимает
  • Ответ не длиннее 16 384 токенов: большой документ придётся выдавать частями
  • Знания заканчиваются апрелем 2024 года, события позже в ответах отсутствуют

Сценарии использования

  • Классификация обращений на разных языках — Аналитик поддержки раскладывает письма клиентов из разных стран по темам, не переводя их заранее.
  • Массовая обработка текстов — Разработчик пайплайна прогоняет тысячи карточек товаров через извлечение полей в JSON.
  • Чат-бот с вызовом функций — Команда сервиса подключает к модели запросы к базе заказов, чтобы бот отвечал по реальным данным.
  • Перевод и пересказ длинных текстов — Редактор сжимает длинную статью до краткого пересказа на другом языке за один запрос.

Mistral: Mistral Nemo API: как подключить

OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели mistralai/mistral-nemo. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.

cURL

curl https://api.apikley.ru/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
  "model": "mistralai/mistral-nemo",
  "messages": [
    {
      "role": "user",
      "content": "Объясните, что такое API, в двух предложениях."
    }
  ]
}'

Python

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")

response = client.chat.completions.create(
    model="mistralai/mistral-nemo",
    messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)

Быстрый старт · Chat Completions: параметры и ответы

Другие модели Mistral AI

Все модели Mistral AI

Похожие модели

FAQ

Какие языки поддерживает Mistral Nemo?

Разработчик называет девять: английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Качество на своём материале всё равно стоит проверить.

Как вызвать Mistral Nemo через API?

Отправьте запрос в формате OpenAI на базовый адрес https://api.apikley.ru/v1 и укажите mistralai/mistral-nemo в качестве модели. Доступ из России без VPN.

Какой контекст у Nemo и хватит ли его на книгу?

Контекст составляет 131 072 токена, то есть около 128 тысяч. Более длинные тексты придётся делить на части.

Можно ли запустить Nemo у себя?

Да, веса опубликованы под лицензией Apache 2.0, поэтому модель можно разворачивать самостоятельно. Для этого понадобится собственное оборудование.

Умеет ли Nemo вызывать функции?

Да, вызов функций и вывод по JSON-схеме поддерживаются. Это позволяет строить агентов и извлекать данные в заданном формате.

Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.