Открытая мультимодальная модель Thinking Machines Lab: 594 млрд параметров, 17 млрд активных, текст и изображения на входе.
Модель Thinking Machines: Inkling 2 Small доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 81 ₽ / 1M токенов.
Inkling 2 Small — мультимодальная рассуждающая модель Thinking Machines Lab с открытыми весами. Это смесь экспертов: 594 млрд параметров всего и 17 млрд активных на токен, на каждый токен выбираются 8 экспертов из 384. Модель принимает текст и изображения и отвечает текстом. Контекст составляет 1 048 576 токенов, ответ может достигать 943 718 токенов. Лицензия Apache-2.0, основной формат весов — NVFP4. Разработчик описывает её как универсальную мультимодальную модель. Она поддерживает вызов функций, структурированный вывод и настройку усилия рассуждений.
OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели thinkingmachines/inkling-2-small. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.
curl https://api.apikley.ru/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "thinkingmachines/inkling-2-small",
"messages": [
{
"role": "user",
"content": "Объясните, что такое API, в двух предложениях."
}
]
}'from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")
response = client.chat.completions.create(
model="thinkingmachines/inkling-2-small",
messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)Для формата NVFP4 нужно не менее 500 ГБ суммарной видеопамяти, например две карты B300 или четыре H200. Для MXFP8 требуется не менее 800 ГБ.
Модель выпущена под лицензией Apache-2.0, веса открыты. Условия использования указаны в лицензии.
Текст и изображения, ответ приходит текстом. За обработку картинок отвечает отдельный визуальный трансформер.
Разработчик предупреждает, что качество на менее представленных языках неравномерно. Результат на нужном языке проверяйте на своих данных.
Авторы не рекомендуют применять модель для медицинских, юридических и критичных к безопасности решений без дообучения и контроля человека. Так сказано в описании разработчика.
Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.