NVIDIA представлена семейством Nemotron: открытые MoE-модели для агентов и рассуждений и фильтр безопасности для запросов и ответов.
Моделей в каталоге: 6
6 моделей NVIDIA доступны через API Apikley без VPN, оплата в рублях.
Цены: от 16,2 ₽ за 1M входных токенов.
NVIDIA ведёт на Hugging Face верифицированную корпоративную организацию, где выложено семейство Nemotron. В нём есть модели для рассуждений и агентов, поиска, эмбеддингов и модерации, причём упор сделан на открытые веса и эффективность работы на устройствах.
Модели Nemotron 3 образуют лестницу по размеру. Nano рассчитана на агентов и чат-ботов: 30 млрд параметров, около 3,5 млрд активных. Super имеет 120 млрд параметров при 12 млрд активных и ориентирована на мультиагентные системы. Ultra — 550 млрд при 55 млрд активных, для рассуждений и оркестрации агентов. У всех трёх контекст 262 144 токена.
Nemotron 3.5 Lightning повторяет ставку на небольшое число активных параметров для потоков запросов, а Nemotron 3.5 Content Safety — 4-миллиардная модель-фильтр. Она проверяет безопасность запросов и ответов нейросетей, в том числе с картинками, и возвращает вердикт с категориями нарушений.
Они различаются размером. У Nano 30 млрд параметров, у Super 120 млрд, у Ultra 550 млрд, активных соответственно около 3,5, 12 и 55 млрд. Контекст у всех 262 144 токена.
Это модель-фильтр на 4 млрд параметров, она проверяет безопасность запросов и ответов нейросетей. Принимает текст и изображения, выдаёт вердикт и категории нарушений.
Обе модели — MoE на 30 млрд параметров, около 3 млрд активных на токен. Lightning нацелена на нагрузки с большим потоком запросов и узкие специализированные задачи.