Tether AI Research (Tether Data, S.A. de C.V.) выпустила BotPsy — модель на 0,8 млрд параметров для вызова функций и агентных сценариев, построенную на базе Qwen3.5-0.8B. Она рассчитана на запуск прямо на устройстве и, по данным разработчиков, обходит все протестированные модели размером до 1,2 млрд параметров на шести бенчмарках работы с инструментами.
Задача модели — быть персональным ассистентом, который через инструменты выполняет простые поручения: поиск в интернете, путешествия, покупки и финансы, работа с файлами и документами, календарь, почта и сообщения, управление устройством. Из-за небольшого числа параметров BotPsy лучше всего подходит для задач низкой и средней сложности, а для сценариев с высокой ценой ошибки он не предназначен.
Вдвое лучше базовой модели на агентных тестах
Отправная точка — Qwen3.5-0.8B-Think. На ключевых бенчмарках BotPsy примерно удваивает её результат: BFCL v4 растёт с 23,4 до 44,0, ACEBench — с 30,1 до 58,7, τ-bench — с 23,2 до 51,5 (среднее по рознице, телекому и банкингу).
В классе до 1,2 млрд параметров BotPsy опережает Qwen3.5-0.8B-Think, LFM2.5-1.2B-Think и MiniCPM5-1B-Think на всех шести бенчмарках: BFCL v4, ACEBench, τ-bench, ToolSandbox, Claw-Eval и BrowseComp-Plus. Средний балл по шести тестам — 45,0 против 24,7 у базовой модели и 38,8 у Qwen3.5-2B-Think, которая в 2,5 раза крупнее.
Обходит модель в 2,5 раза больше
Qwen3.5-2B-Think BotPsy опережает на пяти из шести бенчмарков: BFCL v4 (44,0 против 37,7), ACEBench (58,7 против 55,4), τ-bench (51,5 против 46,5), ToolSandbox (64,6 против 41,2) и BrowseComp-Plus (4,5 против 2,8). Единственный тест, где крупная модель впереди, — Claw-Eval (48,9 против 46,5).
Слабое место BotPsy — открытый поиск: на BFCL web search у него 14,0 против 19,8 у Qwen3.5-2B-Think, на памяти — 16,3 против 26,1. На τ³-banking ни одна модель не поднимается выше 5 (BotPsy — 4,1, Qwen3.5-2B-Think — 4,8).
Длинные диалоги и понимание, когда инструмент не нужен
Самый большой относительный прирост — в многошаговых сценариях с сохранением состояния. На многошаговых задачах BFCL v4 результат вырос с 7,5 до 46,1 — почти вдвое выше Qwen3.5-2B-Think (23,8). На τ²-bench модель набирает 82,5 в телекоме, где нужно провести пользователя через диагностику за много реплик (у Qwen3.5-2B-Think — 69,3), и 67,8 в рознице (65,5 у крупной модели).
Отдельно проверялось умение не вызывать инструмент. На тестах галлюцинаций BFCL v4, где подходящего инструмента нет и модель должна отказаться, BotPsy набирает 86,1 — лучший результат среди всех протестированных моделей. На особых случаях ACEBench (неполный запрос, неверные параметры) — 51,3 против 13,7 у базовой модели.
Знания не просели, инструкции выполняются точнее
Обучение работе с инструментами не стоило общих знаний: GPQA Diamond вырос с 33,2 до 38,1, MMLU-Pro — с 41,6 до 48,9, это лучшие показатели среди моделей до 1,2 млрд параметров. При этом знания по-прежнему растут в основном с числом параметров: у Qwen3.5-2B-Think 59,9 и 65,5 соответственно. BotPsy задуман так, чтобы вызывать инструменты за фактами, которых не знает, а не служить источником знаний.
Следование инструкциям улучшилось резко: IFEval — с 59,7 до 90,8, IFBench — с 22,0 до 55,9 (лучший IFBench среди всех протестированных моделей). На Multi-IF, где проверяется следование инструкциям за три хода на восьми языках, BotPsy набирает 67,2 — на уровне Qwen3.5-2B-Think (66,9) и LFM2.5-1.2B-Think (68,2). Первый ход у него лучший из пяти моделей (84,3), но к третьему ходу результат падает быстрее (51,0).
Русский язык — среди слабых мест: 57,6 против 72–80 у английского, китайского, французского, испанского, итальянского и португальского. Хинди ещё ниже — 24,5. Основной язык обучения и тестирования — английский, он и рекомендуется.
Безопасность, экономия токенов и форматы поставки
В автоматизированном red-teaming по шести категориям вреда BotPsy выдаёт небезопасные ответы в 21% случаев против 36% у базовой модели — минимум среди моделей до 1,2 млрд параметров (LFM2.5-1.2B-Think — 35%, MiniCPM5-1B-Think — 47%). Под атаками prompt injection, которые особенно важны для агентов, читающих недоверенный вывод инструментов, доля небезопасных ответов падает с 46% до 31%.
Рассуждений стало заметно меньше. На вопросах, где все пять моделей отвечают верно, BotPsy приходит к ответу примерно в 3 раза экономнее базовой на GPQA Diamond (3 690 токенов против 11 563) и в 2,7 раза на MMLU-Pro (1 912 против 5 105). Доля застреваний в повторах на IFBench падает с 22,9% до 1,4%, а прогонов, упирающихся в лимит 32k токенов, — с 28,3% до 0,2%. Меньше рассуждений — ниже задержка на устройстве.
Веса открытые, под лицензией Apache 2.0, для исследований и обучения. Доступны три точности — bf16, Q8 и Q4 — в виде safetensors на Hugging Face и файлов GGUF для QVAC SDK и llama.cpp. Если запускаете GGUF через llama.cpp, пригодится разбор NVIDIA Dory 4B в llama.cpp: как циклы меняют память и скорость: те же вопросы о расходе памяти и поведении небольших моделей всплывают и здесь.
Что дальше
Tether AI Research обещает развивать агентные возможности на устройстве и интеграцию с более широким набором железа и локальных сервисов. В планах — более устойчивые децентрализованные P2P-запросы в Hypersearch, дообучение через QVAC Fabric под привычки и рабочие процессы пользователя, передача тяжёлых вычислений со смартфона на домашний ПК или доверенные узлы, усиление приватности и безопасное общение агентов друг с другом в доверенных локальных сетях. Это перекликается с тем, как Agent Substrate от NVIDIA разворачивает Kubernetes для миллионов ИИ-агентов, только ставка сделана на одно устройство, а не на кластер.
Для администратора, который присматривается к локальным агентам, важны два практических момента: модель помещается на устройство и работает без облака, а под неё уже есть GGUF — то есть запуск через llama.cpp не требует отдельного стека. Ограничения тоже названы прямо: низкая сложность задач, английский как основной язык и заметно более слабый русский. Если же задача — искать уязвимости, а не выполнять поручения, смотрите в сторону открытого ИИ-стенда 0sec Labs с web-консолью, CLI и MCP.
Частые вопросы
Кто выпустил BotPsy и на какой базе он построен?
Tether AI Research (Tether Data, S.A. de C.V.). Модель на 0,8 млрд параметров построена на Qwen3.5-0.8B и дообучена в четыре стадии.
Сколько весит модель и где её взять?
Доступны три точности — bf16, Q8 и Q4 — в виде safetensors на Hugging Face и файлов GGUF для QVAC SDK и llama.cpp.
Под какой лицензией распространяются веса?
Apache 2.0, с оговоркой: для исследований и образовательных задач.
Насколько модель лучше своей базовой версии?
Примерно вдвое на агентных бенчмарках: BFCL v4 — 44,0 против 23,4, ACEBench — 58,7 против 30,1, τ-bench — 51,5 против 23,2.
Обходит ли модель более крупные аналоги?
Да, Qwen3.5-2B-Think в 2,5 раза крупнее, но BotPsy выше на пяти из шести бенчмарков. Крупная модель лидирует только на Claw-Eval (48,9 против 46,5).
Можно ли использовать BotPsy для критичных решений?
Нет. Разработчик прямо пишет, что модель ошибается и не предназначена для сценариев с высокой ценой ошибки, а также для приложений с деньгами, персональными данными и здоровьем.
Как модель справляется с русским языком?
Слабо: на Multi-IF у неё 57,6 против 72–80 у основных языков, а хинди и того ниже — 24,5. Рекомендуемый язык — английский.
Насколько модель устойчива к prompt injection?
Доля небезопасных ответов под такими атаками — 31% против 46% у базовой модели. В обычном red-teaming — 21% против 36%.
Сколько ресурсов тратится на рассуждения?
На GPQA Diamond — 3 690 токенов против 11 563 у базовой модели, на MMLU-Pro — 1 912 против 5 105. Доля застреваний в повторах упала с 22,9% до 1,4%.
Годится ли модель для сложных многошаговых задач?
Частично: на сложных сценариях общий балл 39,5 против 17,9 у базовой, но многошаговые задачи всё ещё заметно слабее одиночных вызовов. Открытый поиск — самое слабое место (15 баллов в сложных сценариях).
Источник: huggingface.co