Qwen: Qwen2.5 7B Instruct

Компактная текстовая модель Alibaba на 7 млрд параметров для простых задач: классификация, извлечение полей, короткие ответы и вызов функций.

Модель Qwen: Qwen2.5 7B Instruct доступна через OpenAI-совместимый API Apikley из России без VPN, с оплатой в рублях: от 27 ₽ / 1M токенов.

Автор
Alibaba
ID модели
qwen/qwen-2.5-7b-instruct
Контекст
33K токенов
Max output
29.5K токенов
Модальности
текст → текст
Вход
270 кредитов / 1M токенов · 27 ₽ / 1M токенов · 1 ₽ = 10 кредитов
Выход
540 кредитов / 1M токенов · 54 ₽ / 1M токенов · 1 ₽ = 10 кредитов
Дата релиза
16.10.2024
Доступность
Нет свежих данных проверки

Описание

Qwen2.5 7B Instruct — маленький представитель поколения Qwen2.5 от Alibaba, 7,61 млрд параметров. Он подходит для массовых несложных операций, где важнее объём запросов, чем глубина рассуждений: разметка текстов, извлечение данных, короткие ответы пользователям. По описанию разработчика, поколение Qwen2.5 принесло больше знаний, лучший код и математику, устойчивость к разным системным промптам и более надёжный JSON. Модель принимает вызов функций и структурированный вывод. Поддерживается более 29 языков, включая русский. Контекст здесь 32 768 токенов, максимум ответа 29 491 токен. Вход и выход только текстовые, знания обрываются в июне 2024 года.

Кому подходит

  • Пакетной обработке больших потоков коротких текстов
  • Прототипам, где нужно быстро проверить идею на небольшой модели
  • Предварительной сортировке запросов перед вызовом более крупной модели
  • Извлечению полей по заданной JSON-схеме

Ограничения

  • Контекст 32 768 токенов: длинные документы придётся делить на фрагменты
  • Изображения не принимает, работает только с текстом
  • Знания до июня 2024: свежие факты нужно подавать в запросе

Сценарии использования

  • Классификация обращений — Специалист поддержки прогоняет входящие письма через модель, чтобы получить тему, срочность и тональность в виде JSON.
  • Извлечение данных из текста — Разработчик вытаскивает из описаний товаров размер, цвет и материал и складывает значения в поля базы данных.
  • Простой чат-бот — Команда запускает FAQ-бота с короткими ответами по заранее заданному системному промпту.
  • Маршрутизация запросов — Инженер ставит маленькую модель перед крупной: она решает, какой инструмент вызвать, и передаёт сложные вопросы дальше.
  • Черновики коротких текстов — Контент-менеджер получает варианты заголовков и аннотаций, которые затем правит вручную.

Qwen: Qwen2.5 7B Instruct API: как подключить

OpenAI-совместимый API: POST https://api.apikley.ru/v1/chat/completions, ID модели qwen/qwen-2.5-7b-instruct. Подойдёт официальный SDK OpenAI с базовым адресом https://api.apikley.ru/v1.

cURL

curl https://api.apikley.ru/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
  "model": "qwen/qwen-2.5-7b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Объясните, что такое API, в двух предложениях."
    }
  ]
}'

Python

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.apikley.ru/v1")

response = client.chat.completions.create(
    model="qwen/qwen-2.5-7b-instruct",
    messages=[{"role": "user", "content": "Объясните, что такое API, в двух предложениях."}],
)
print(response.choices[0].message.content)

Быстрый старт · Chat Completions: параметры и ответы

Другие модели Alibaba

Все модели Alibaba

Похожие модели

FAQ

Чем Qwen2.5 7B отличается от версии на 72 млрд параметров?

Размером: у 7B 7,61 млрд параметров, у Qwen2.5 72B Instruct 72 млрд. Окно контекста у обеих одинаковое, предел ответа у 7B больше: 29 491 против 16 384 токенов.

Умеет ли модель вызывать функции?

Да, вызов функций и выбор инструмента поддерживаются, поэтому её можно ставить в роль маршрутизатора в агентской схеме.

Можно ли получить ответ строго по JSON-схеме?

Да, структурированный вывод поддерживается. Разработчик отмечает, что в Qwen2.5 JSON стал надёжнее, чем в Qwen2.

Хватит ли контекста на длинный документ?

Это зависит от длины документа: окно контекста ограничено, и всё, что в него не помещается, делите на части и обрабатывайте по очереди.

Понимает ли модель русский язык?

Да, русский входит в список из более чем 29 языков, которые заявляет Alibaba для поколения Qwen2.5.

Все AI-модели каталога Apikley — доступ через API из России, оплата в рублях, без VPN.