ReMM SLERP 13B

ReMM SLERP 13B от Undi95: слитая из нескольких моделей текстовая модель на 13 миллиардов параметров, пробная пересборка MythoMax-L2-B13 на обновлённых моделях.

Модель ReMM SLERP 13B доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 94,5 ₽ / 1M токенов.

Автор
Undi95
ID модели
undi95/remm-slerp-l2-13b
Контекст
6.1K токенов
Max output
5.5K токенов
Модальности
текст → текст
Вход
945 кредитов / 1M токенов · 94,5 ₽ / 1M токенов · 1 ₽ = 10 кредитов
Выход
1 755 кредитов / 1M токенов · 175,5 ₽ / 1M токенов · 1 ₽ = 10 кредитов
Дата релиза
22.07.2023
Доступность
Нет свежих данных проверки

Описание

ReMM SLERP 13B — модель, собранная пользователем Undi95 методом слияния весов SLERP. Автор называет её попыткой воссоздать MythoMax-L2-B13 на обновлённых компонентах. В основе слияния модели Chronos-Beluga, Airoboros и Nous-Hermes, а в завершающем шаге добавлена Huginn. Контекст здесь маленький: 6144 токена, из них на ответ можно отвести до 5529. Это уровень середины 2023 года, когда модель появилась, поэтому длинные документы в запрос не поместятся. Знания ограничены июнем 2023 года. Промпт принято оформлять в шаблоне Alpaca: инструкция, затем место для ответа. Оригинальный MythoMax, по описанию его автора, рассчитан на ролевые игры и сочинение историй; для самой пересборки такое назначение не заявлено.

Кому подходит

  • Тем, кто пробует сюжетные тексты и диалоги персонажей на небольшой модели
  • Тем, кто сравнивает слитые модели семейства MythoMax
  • Коротким запросам, где не нужна длинная история диалога
  • Проектам с готовым промптом в формате Alpaca

Ограничения

  • Контекст 6144 токена: длинный документ или большую историю диалога придётся обрезать
  • Знания заканчиваются в июне 2023 года, о более поздних событиях модель не знает
  • Вызов функций и рассуждение не заявлены: агентные сценарии с инструментами проверяйте заранее
  • Только текст: изображения на вход не принимаются

Сценарии использования

  • Сочинение сюжетных сцен — Автор интерактивной истории просит продолжить сцену в заданном стиле, подавая в промпт краткое описание героев и места действия.
  • Диалоги персонажей — Разработчик игрового прототипа ведёт реплики неигрового героя, задавая характер и манеру речи в инструкции.
  • Эксперименты со сборками моделей — Исследователь сравнивает поведение слитых моделей на одних и тех же промптах, взяв эту как одну из точек для сопоставления.
  • Короткие черновики текстов — Копирайтер получает несколько вариантов вступления или описания, чтобы выбрать подходящий и доработать вручную.

ReMM SLERP 13B API: как подключить

OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели undi95/remm-slerp-l2-13b. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.

cURL

curl https://api.apikley.ru/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
  "model": "undi95/remm-slerp-l2-13b",
  "messages": [
    {
      "role": "user",
      "content": "Объясните, что такое API, в двух предложениях."
    }
  ]
}'

Python

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")

response = client.chat.completions.create(
    model="undi95/remm-slerp-l2-13b",
    messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)

Быстрый старт · Chat Completions: параметры и ответы

Похожие модели

FAQ

Из чего собрана ReMM SLERP 13B?

Это слияние нескольких 13-миллиардных моделей методом SLERP. По описанию автора, в него вошли Chronos-Beluga, Airoboros и Nous-Hermes, а на последнем шаге добавлена Huginn.

Как связана ReMM SLERP 13B с MythoMax?

Автор называет модель пробной пересборкой оригинального MythoMax-L2-B13 на обновлённых компонентах. У неё собственные веса, полученные новым слиянием.

В каком формате писать промпт?

Лучше всего использовать шаблон Alpaca: блок с инструкцией и затем место для ответа.

Хватит ли контекста для длинной истории чата?

Нет, окно составляет всего 6144 токена вместе с ответом. Для длинных сессий потребуется сжимать историю либо выбрать модель с большим контекстом.

Можно ли получить ответ в формате JSON?

Да, для модели заявлен структурированный вывод по JSON-схеме. При размере 13 миллиардов параметров стоит проверять результат на своих схемах.

Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.