NVIDIA — модели через API Apikley

NVIDIA представлена семейством Nemotron: открытые MoE-модели для агентов и рассуждений и фильтр безопасности для запросов и ответов.

Моделей в каталоге: 6

Как подключить API NVIDIA из России

6 моделей NVIDIA доступны через API Apikley без VPN, оплата в рублях.

Цены: от 16,2 ₽ за 1M входных токенов.

  1. Зарегистрируйтесь в личном кабинете и пополните баланс в рублях банковской картой или через СБП.
  2. Создайте API-ключ в разделе «API-ключи».
  3. Укажите базовый адрес https://api.apikley.ru/v1 и идентификатор модели из каталога. Для текстовых моделей подходит официальный SDK OpenAI.

Документация API

Преимущества автора

  • 📐 Три размера Nemotron 3 — Nano, Super и Ultra дают выбор между экономным агентом и крупной моделью для рассуждений внутри одного семейства с одинаковым контекстом.
  • 🔍 Модель-фильтр с картинками — Content Safety проверяет и текстовые, и графические запросы и называет категории нарушений, поэтому её можно поставить перед основной моделью.
  • 🌳 MoE с малым числом активных параметров — В Nano и Lightning на токен задействуется около 3 млрд параметров из 30, что подходит для сервисов с большим потоком запросов.

Модели автора

О разработчике

NVIDIA ведёт на Hugging Face верифицированную корпоративную организацию, где выложено семейство Nemotron. В нём есть модели для рассуждений и агентов, поиска, эмбеддингов и модерации, причём упор сделан на открытые веса и эффективность работы на устройствах.

Модели Nemotron 3 образуют лестницу по размеру. Nano рассчитана на агентов и чат-ботов: 30 млрд параметров, около 3,5 млрд активных. Super имеет 120 млрд параметров при 12 млрд активных и ориентирована на мультиагентные системы. Ultra — 550 млрд при 55 млрд активных, для рассуждений и оркестрации агентов. У всех трёх контекст 262 144 токена.

Nemotron 3.5 Lightning повторяет ставку на небольшое число активных параметров для потоков запросов, а Nemotron 3.5 Content Safety — 4-миллиардная модель-фильтр. Она проверяет безопасность запросов и ответов нейросетей, в том числе с картинками, и возвращает вердикт с категориями нарушений.

Примеры использования

  • Разработчик собирает мультиагентную систему — Оркестратор работает на Nemotron 3 Super или Ultra, а узкие исполнители выделены на Nano или Lightning с тем же контекстом 262 тысячи токенов.
  • Команда модерации фильтрует диалоги — Content Safety проверяет реплики пользователей и ответы ассистента, включая вложенные изображения, и записывает вердикт с категориями.
  • Инженер строит чат-бота с вызовом функций — Nemotron 3 Nano отвечает в чате и вызывает внешние функции; когда задача растёт, тот же сценарий переносят на Super.

FAQ

Чем Nemotron 3 Nano, Super и Ultra отличаются друг от друга?

Они различаются размером. У Nano 30 млрд параметров, у Super 120 млрд, у Ultra 550 млрд, активных соответственно около 3,5, 12 и 55 млрд. Контекст у всех 262 144 токена.

Для чего нужна Nemotron 3.5 Content Safety?

Это модель-фильтр на 4 млрд параметров, она проверяет безопасность запросов и ответов нейросетей. Принимает текст и изображения, выдаёт вердикт и категории нарушений.

Чем Nemotron 3.5 Lightning отличается от Nemotron 3 Nano?

Обе модели — MoE на 30 млрд параметров, около 3 млрд активных на токен. Lightning нацелена на нагрузки с большим потоком запросов и узкие специализированные задачи.

Все AI-модели каталога Apikley