专家批AI配专号治标不治本

专家批AI配专号治标不治本
核心摘要

安全沙箱专家、Cloudflare 首席架构师 Kenton Varda 近日对 Anthropic 提出的智能体身份模型提出尖锐批评,认为直接给 AI 分配独立账号不仅在技术层面难以适配大规模任务,更会在根本上破坏人类问责机制。这一观点引发了业界对 AI 安全架构设计的重新审视。

正文解读

Varda 指出,新架构虽然试图解决多人协作场景中的凭证越权问题,但其底层设计存在致命缺陷。智能体在法律和行政层面都无法作为责任主体,所有操作权限的源头必须是具体的自然人。如果为 AI 生成独立账号,当 AI 执行删除数据库等破坏性操作时,系统日志仅能记录 AI 执行了指令,却无法将责任追溯到真正下达指令的员工,导致问责链条彻底断裂。

针对独立权限包带来的配置疲劳问题,Varda 提倡采用基于能力的安全模型。该模型的核心思路是不赋予 AI 全局或默认权限,而是将权限作为动态的「能力」进行传递。举例来说,当员工在对话中向 AI 发送文档链接时,系统会自动用该员工本人的凭证生成一份临时只读引用传递给 AI。这种机制既能确保 AI 的任何行为都能追溯到具体的发起人,也能从底层堵住低权限员工向 AI 传递自身没有的数据库凭证等越权隐患。

Varda 的观点揭示了当前 AI 安全领域一个根本性的矛盾:智能体越来越强大,但责任归属体系却仍停留在传统账号管理模式中。随着 AI Agent 在企业场景中加速落地,如何在权限灵活性和问责清晰性之间找到平衡,将成为安全架构设计的关键课题。企业在部署 AI 智能体时,应优先考虑权限溯源能力,而非简单地为 AI 开辟独立的身份空间。

原创文章,作者:admin,如若转载,请注明出处:https://www.23btc.com/194115/

(0)
上一篇 2小时前
下一篇 2小时前

相关推荐