💾 Подходит для ограниченной памяти — Phi-4 на 14 млрд параметров рассчитана на среды, где мало памяти и вычислительных ресурсов, то есть работать с ней можно без крупной инфраструктуры.
📜 Лицензия MIT — Phi-4 выпущена под лицензией MIT.
🧪 Обучение на синтетических данных — Основа обучения — синтетические данные плюс отфильтрованные открытые источники, что направляет модель на рассуждения и логические задачи.
Microsoft выкладывает исследовательские модели на Hugging Face. Среди них семейство Phi, малые языковые модели Microsoft Research.
Из семейства здесь доступна Phi-4. Это плотная модель-декодер на 14 млрд параметров, выпущенная в декабре 2024 года под лицензией MIT. По описанию авторов, она создана для сред с ограниченной памятью и вычислительными ресурсами и для сценариев, чувствительных к задержке, где нужны рассуждения. Обучалась модель на синтетических данных, отфильтрованных открытых источниках и академических материалах.
Контекст у Phi-4 16 тысяч токенов, а ориентирована она прежде всего на английский язык. На других языках разработчики отмечают более слабые результаты.
Примеры использования
Помощник по решению задач — Преподаватель математики использует Phi-4 для пошаговых разборов англоязычных задач, где важны рассуждения, а не широкие знания.
Лёгкий этап в конвейере — Разработчик ставит Phi-4 на промежуточные операции вроде проверки логики или переформулировки запросов, пока тяжёлую работу делают другие модели.
Прототип на ограниченном железе — Команда проверяет идею продукта на модели, которой хватает умеренных ресурсов, прежде чем выбирать более крупную.
FAQ
Какой контекст у Phi-4?
Контекст Phi-4 составляет 16 тысяч токенов. Длинные документы придётся делить.
Хорошо ли Phi-4 работает на русском?
Phi-4 ориентирована на английский язык, а на других языках разработчики отмечают более слабые результаты. Для русскоязычных задач проверяйте качество на своих примерах.
Понимает ли Phi-4 изображения?
Нет, Phi-4 работает только с текстом. Мультимодальные модели Microsoft публикует отдельно, в этой модели их нет.