核心摘要
在2026年世界人工智能大会上，清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长杜宁凯以及加州大学伯克利分校人类兼容人工智能中心执行主任Mark Nitzberg举行圆桌对话，聚焦AI智能体治理。嘉宾们指出，人工智能正从辅助人类判断转向自主行动，成为代替人做事的智能体，这是传统委托代理问题在数字时代的全新体现。由于AI面临目标不对齐问题，且作为黑盒子无法承担法律责任，问责必须转向开发者、部署者、监管者等整个执行链条。
正文解读
嘉宾们达成高度共识，涉及生死后果的决策、一旦出错无法修复的场景以及所有伦理与价值判断问题，绝不能交由AI主导。人类可以授权AI行动，但不能授权AI负责，每一次授权都应可撤回，每一个行动都应可追责，让渡代理权的速度不应超过人类验证AI能力的速度。
在安全机制层面，嘉宾提出构建可信AI需满足三大工程特性：基础扎实、操作透明、使用中可控。在制度建设层面，需建立全球统一的AI安全评估标准、互认的测试体系与事故数据共享机制，明确AI发展的红线并建立早期预警监测机制，推动AI安全成为全球公共产品。
原创文章，作者：admin，如若转载，请注明出处：https://www.23btc.com/202139/
