
当 AI 只能聊天,说错话最多是闹个笑话。当 AI 能调用工具、执行命令、操作浏览器,一次错误的代价就完全不同了。Agent 走向实用的过程,也是安全议题快速升温的过程。
风险从哪里来
一是权限过大:给 agent 的账号拥有过多读写或执行权限,一旦被诱导或出错,影响面很大。二是提示注入:agent 读到的网页、邮件、文档里藏着恶意指令,可能劫持它的行为。三是行为不透明:多步推理出了错,很难追溯是哪一步歪了。
三条必须守住的底线
- 最小权限:只给 agent 完成任务所必需的最小权限,敏感操作单独授权。
- 人在回路:涉及资金、删除、对外发布等不可逆动作,强制人工确认。
- 全程可审计:记录 agent 的每一步调用和决策,出错能回放、能定位。
给团队的务实建议
先把 agent 放在隔离环境里试运行,观察它的行为边界,再逐步放开。不要因为它"看起来做对了"就给予完全信任。能力越强,越要靠制度而不是靠运气来兜底。
结语
安全和治理不是创新的对立面,而是规模化落地的前提。把规则设计在前面,agent 才能真正成为可靠的同事,而不是一颗定时炸弹。
小7分享网