ReMM SLERP 13B от Undi95: слитая из нескольких моделей текстовая модель на 13 миллиардов параметров, пробная пересборка MythoMax-L2-B13 на обновлённых моделях.
Модель ReMM SLERP 13B доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 94,5 ₽ / 1M токенов.
ReMM SLERP 13B — модель, собранная пользователем Undi95 методом слияния весов SLERP. Автор называет её попыткой воссоздать MythoMax-L2-B13 на обновлённых компонентах. В основе слияния модели Chronos-Beluga, Airoboros и Nous-Hermes, а в завершающем шаге добавлена Huginn. Контекст здесь маленький: 6144 токена, из них на ответ можно отвести до 5529. Это уровень середины 2023 года, когда модель появилась, поэтому длинные документы в запрос не поместятся. Знания ограничены июнем 2023 года. Промпт принято оформлять в шаблоне Alpaca: инструкция, затем место для ответа. Оригинальный MythoMax, по описанию его автора, рассчитан на ролевые игры и сочинение историй; для самой пересборки такое назначение не заявлено.
OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели undi95/remm-slerp-l2-13b. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.
curl https://api.apikley.ru/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "undi95/remm-slerp-l2-13b",
"messages": [
{
"role": "user",
"content": "Объясните, что такое API, в двух предложениях."
}
]
}'from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")
response = client.chat.completions.create(
model="undi95/remm-slerp-l2-13b",
messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)Это слияние нескольких 13-миллиардных моделей методом SLERP. По описанию автора, в него вошли Chronos-Beluga, Airoboros и Nous-Hermes, а на последнем шаге добавлена Huginn.
Автор называет модель пробной пересборкой оригинального MythoMax-L2-B13 на обновлённых компонентах. У неё собственные веса, полученные новым слиянием.
Лучше всего использовать шаблон Alpaca: блок с инструкцией и затем место для ответа.
Нет, окно составляет всего 6144 токена вместе с ответом. Для длинных сессий потребуется сжимать историю либо выбрать модель с большим контекстом.
Да, для модели заявлен структурированный вывод по JSON-схеме. При размере 13 миллиардов параметров стоит проверять результат на своих схемах.
Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.