据 11 月中旬的模型发布信息,Tether AI Research 发布 BotPsy——一个参数量仅 8 亿(0.8B)的开源模型,目标是本地工具调用。这类超小模型的出现,正在改变"智能体必须有大模型支撑"的默认假设。
小模型为什么要做工具调用
在不少应用场景中,智能体的任务并不是"写出深刻的答案",而是"在正确的时候调用正确的函数":读取传感器、查询本地数据库、触发一个脚本。这类决策边界清晰、输出结构化,并不需要动辄数百亿参数的模型。用小模型承接,能在延迟、隐私和成本上获得明显优势。
本地化的意义
端侧运行意味着数据不必离开设备,适合对隐私敏感或网络受限的环境;同时响应更快、没有按 token 计费的云端账单。对于需要在边缘设备上部署智能体的团队,这类模型打开了过去做不到的可能性。
预期要放在合理位置
需要提醒的是,0.8B 级别的模型能力有限,适合结构化、范围明确的调用决策,不适合开放域对话或复杂推理。公开信息多为厂商描述,实际的工具选择准确率、多轮稳定性,仍需用你自己的任务集去验证。把它当作"轻量执行器",而不是全能助手。
结论
BotPsy 代表的方向比它的参数更值得关注:智能体能力正在从云端向端侧下沉。如果你的场景强调隐私、低延迟或离线可用,是时候把小模型纳入选型清单了。
本文属于专题Agent 与自动化15 篇全部专题 →
小7分享网