跳到主要内容

Agent 安全与确认机制

Agent 可以执行比普通 AI 对话更有影响的动作,例如写文件、运行命令、创建备份、清理记录或配置 Bot。因此使用 Agent 时,需要把确认机制和权限边界放在前面。

需要重点确认的动作

  • 写入、编辑或删除文件。
  • 执行命令或启动进程。
  • 创建、启用、删除定时任务。
  • 创建、执行、暂停或删除备份策略。
  • 清理执行记录。
  • 配置 IM Bot 和密钥。
  • 启用团队可复用技能。

使用建议

  • 让 Agent 先展示计划,再执行。
  • 检查目标数据库、目录、频率和影响范围。
  • 生产库操作前先做只读验证或预检查。
  • Bot 密钥和模型密钥不要写入公开文档或对话。
  • 不确定的任务先在测试连接中验证。

和 AI 数据安全的关系

AI 数据安全关注上下文会不会被发送给模型;Agent 安全还要关注工具会不会真实改变环境。两者都需要按团队规范管理。

更多模型和上下文安全建议见 AI 数据安全