前员工:黑帽用Claude,白帽用开源

前员工:黑帽用Claude,白帽用开源
核心摘要

围绕开放模型与闭源模型的安全博弈,OpenAI 和 Anthropic 的员工在 X 上讨论认为,一旦开放模型追上最强闭源模型,自动化攻击能力将不再受平台控制。前 Anthropic 员工 Noah Lebovic 却指出,真正活跃的黑帽黑客目前主要仍在用 Claude Code 和 Codex 这类闭源工具。

正文解读

他表示,自己认识的一些攻击者会从灰黑市购买打折订阅 Token,账号被封后便换号继续操作。闭源模型能力更强,订阅价格也低,安全限制在他们眼中只是需要绕过的一道门槛。相比之下,正规安全团队反而更依赖开放模型,因为他们不能违规越狱,也不能不断更换账号,而真实漏洞、攻击命令和利用代码又容易触发闭源模型的拦截。

Lebovic 透露,他已知有三家正规渗透测试团队已将 GLM 5.2 作为主要模型。他本人曾用 Opus 4.6 在授权测试中成功接管银行账户并读取医疗记录,这一经历让他确信,现有护栏更容易拦住守规矩的防守者,而有意作恶的人仍能找到绕行办法。

从目前的态势看,闭源模型因价格低廉、能力突出反而成为黑帽黑客的优先选择,而开放模型则在防守方手中发挥价值。护栏的有效性面临挑战,未来安全攻防的重心或许需要从模型能力本身的限制转向对恶意使用行为的动态监测。

原创文章,作者:admin,如若转载,请注明出处:https://www.23btc.com/204940/

(0)
上一篇 3小时前
下一篇 3小时前

相关推荐