Доработанная версия Mistral Small 2501, дообученная для сюжетной прозы, тонкого письма и ролевых диалогов. Принимает и возвращает текст.
Модель TheDrummer: Skyfall 36B V2 доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 148,5 ₽ / 1M токенов.
Skyfall 36B V2 — доработка Mistral Small 2501 от TheDrummer. Базовая модель дообучена для связного сторителлинга, тонкого письма и ролевых игр. Контекстное окно скромное: 32 768 токенов, и максимальный ответ почти равен ему, 29 491 токен. Для длинной игровой кампании это значит, что раннюю историю придётся сжимать в краткое содержание. Модель работает только с текстом и принимает ответ по JSON-схеме. Рассуждения и вызов функций не заявлены. Знания заканчиваются июнем 2024 года. Автор рекомендует шаблон Mistral v7 Tekken, поддерживаются также Metharme и Alpaca. У Cydonia 24B V4.1 от того же автора окно контекста в четыре раза шире.
OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели thedrummer/skyfall-36b-v2. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.
curl https://api.apikley.ru/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "thedrummer/skyfall-36b-v2",
"messages": [
{
"role": "user",
"content": "Объясните, что такое API, в двух предложениях."
}
]
}'from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")
response = client.chat.completions.create(
model="thedrummer/skyfall-36b-v2",
messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)Для творческого письма, ролевых игр и связного сторителлинга: так описывает модель её автор.
Автор рекомендует Mistral v7 Tekken, также указаны Metharme и Alpaca.
Целиком роман в окно не поместится. Его придётся вести по главам и передавать модели краткое содержание предыдущих.
Skyfall основан на Mistral Small 2501, окно контекста у неё 32 768 токенов, а у Cydonia 131 072.
Да, структурированный вывод по JSON-схеме поддерживается. Вызова функций в модели нет.
Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.