Компактная модель на 12 миллиардов параметров на базе Mistral для приключенческих текстов и ролевых игр. Работает с текстом, формат инструкций Mistral.
Модель TheDrummer: UnslopNemo 12B доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 108 ₽ / 1M токенов.
UnslopNemo 12B — небольшая модель TheDrummer на 12 миллиардов параметров. Её выпустил создатель Rocinante, и, по его описанию, версия 4.1 сделана для приключенческого письма и ролевых сценариев. Модель относится к семейству Mistral: у неё токенизатор и формат инструкций Mistral. Принимает и возвращает текст, умеет отвечать по JSON-схеме. Ответ по JSON-схеме удобен, если реплики персонажей или состояние сцены нужно разбирать кодом. Знания ограничены апрелем 2024 года: о более поздних событиях сведений у модели нет.
OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели thedrummer/unslopnemo-12b. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.
curl https://api.apikley.ru/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "thedrummer/unslopnemo-12b",
"messages": [
{
"role": "user",
"content": "Объясните, что такое API, в двух предложениях."
}
]
}'from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")
response = client.chat.completions.create(
model="thedrummer/unslopnemo-12b",
messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)Для приключенческого письма и ролевых игр. Так описывает версию 4.1 её автор.
Формат инструкций Mistral, токенизатор тоже Mistral. Шаблон диалога стоит выставлять соответствующий.
Нет, вход только текстовый.
Ни вызов функций, ни режим рассуждений не заявлены. Модель рассчитана на письмо и диалог.
Да, структурированный вывод по JSON-схеме поддерживается.
Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.