OpenBMB выпустила компактную ИИ-модель MiniCPM5-1B для работы на смартфонах

Компания OpenBMB выпустила новую версию компактной языковой модели MiniCPM5-1B. Модель имеет один миллиард параметров и занимает около полугигабайта памяти, что позволяет запускать её на современных смартфонах.

MiniCPM5-1B поддерживает нативный вызов инструментов и протокол Model Context Protocol (MCP). Это даёт возможность выполнять действия и обращаться к внешним сервисам напрямую с устройства, без необходимости подключения к облаку.

По данным разработчиков, модель показывает средний результат 42,57 балла в тестах на агентные и рассуждающие способности. Это превышает показатель ближайшего конкурента среди моделей аналогичного размера, который составляет 35,61 балла.

В ходе независимых тестов MiniCPM5-1B продемонстрировала хорошую беглость диалога. Однако были выявлены недостатки: модель иногда галлюцинировала в цепочке рассуждений и не справлялась с простыми логическими ловушками.

Выпуск модели — очередной шаг в развитии локального ИИ, который может работать на потребительских устройствах без интернета. Это особенно актуально для задач, требующих низкой задержки и сохранения конфиденциальности данных.

MiniCPM5-1B доступна для скачивания и тестирования. Ожидается, что она найдёт применение в приложениях для автоматизации, персональных ассистентах и других сценариях, где важна работа на устройстве.