AI工具暗藏风险？慢雾创始人余弦发出重要安全警告
近日，慢雾创始人余弦通过23btc向公众发布了一项至关重要的安全提醒，引发了广泛关注。他指出，广大用户在使用各类AI工具时，必须高度警惕一种新型威胁——提示词投毒攻击。
这种攻击主要潜伏在诸如agentsmd、skillsmd、mcp等组件或协议中。攻击者通过精心构造的恶意提示词，诱导AI执行非预期的危险操作。余弦透露，目前市场上已经出现了相关的真实攻击案例，这标志着此类威胁已从理论走向实践。
风险的核心在于AI工具的“危险模式”。一旦用户不慎开启了此模式，被投毒的AI工具便可能获得全自动操控用户电脑的权限，且无需经过任何确认。这意味着用户的文件、隐私乃至整个系统都可能暴露在风险之下。
当然，如果用户未开启危险模式，AI的每次操作仍需人工确认，这虽然能提供基本的安全保障，但不可避免地会影响使用效率和流畅体验。这便给用户带来了一个安全与便利之间的两难选择。
余弦的此次提醒，无疑为蓬勃发展的AI应用敲响了安全警钟。在享受人工智能带来的高效与便捷时，用户和开发者都必须将安全置于首位，审慎评估权限设置，并对来源不明的提示词保持警惕，以防患于未然。
原创文章，作者：admin，如若转载，请注明出处：https://www.23btc.com/129981/
