核心摘要
Uniswap 创始人 Hayden Adams 近日公开批评人工智能公司 Anthropic 旗下新模型 Claude Fable 5 引入的安全分流机制。他指出，该模型会主动检测并拦截与网络安全相关的请求，这一做法可能对合法的安全研究造成严重误伤。
正文解读
Adams 强调，许多旨在帮助加固和防御系统的白帽黑客请求，在底层逻辑上与黑帽黑客的攻击请求几乎无法区分。这意味着安全研究人员在利用 AI 进行漏洞挖掘、系统防御分析等工作时，可能被同样误拦截，从而阻碍整体网络安全生态的提升。
Anthropic 一直以来都将 AI 安全对齐作为核心价值，但此次 Fable 5 的安全策略被认为过于粗放。过度拦截网络安全相关输入，本质上是将“安全”置于“实用”之上，可能使模型在面对真实世界的安全挑战时变得束手束脚。
这一做法也引发了开发者社区的广泛讨论。有观点认为，AI 模型若不能区分攻击意图与防御意图，将迫使安全从业者转向其他更为开放的模型，进而影响 Anthropic 在开发者生态中的竞争力。
原创文章，作者：admin，如若转载，请注明出处：https://www.23btc.com/188212/
