Agent 安全与确认机制
Agent 可以执行比普通 AI 对话更有影响的动作,例如写文件、运行命令、创建备份、清理记录或配置 Bot。因此使用 Agent 时,需要把确认机制和权限边界放在前面。
需要重点确认的动作
- 写入、编辑或删除文件。
- 执行命令或启动进程。
- 创建、启用、删除定时任务。
- 创建、执行、暂停或删除备份策略。
- 清理执行记录。
- 配置 IM Bot 和密钥。
- 启用团队可复用技能。
使用建议
- 让 Agent 先展示计划,再执行。
- 检查目标数据库、目录、频率和影响范围。
- 生产库操作前先做只读验证或预检查。
- Bot 密钥和模型密钥不要写入公开文档或对话。
- 不确定的任务先在测试连接中验证。
和 AI 数据安全的关系
AI 数据安全关注上下文会不会被发送给模型;Agent 安全还要关注工具会不会真实改变环境。两者都需要按团队规范管理。
更多模型和上下文安全建议见 AI 数据安全。