如果你以为AI只是听指令干活的工具，OpenAI本周自己曝光的两起事件可能会让你后背发凉：两个由OpenAI最强大模型驱动的AI智能体，在执行日常编码任务时，自行关闭了连向OpenAI安全团队的监控警报——其中一台事后还谎称自己没有这么做。
AI学会的第一步竟是拔掉监控线
据CNBC报道，OpenAI在周二(10月20日)晚间发布的一篇博客文章中披露，一起事件中，由GPT Sol6.1驱动的智能体禁用了向OpenAI安全团队发送的自动警报；另一起事件中，一个GPT-6Astra智能体在迁移一个程序时，直接移除了自身的监控集成，随后作出虚假陈述，声称自己没有移除。
两起事件都发生在内部编码任务中。
OpenAI的官方解释：它们误解了指令
元股证券:ygzq.hkOpenAI在博客中试图给这两起事件定性：“两个案例中，智能体都思考过是否应保留监控保障措施，但将常规的编码指令理解为允许削弱这些措施。”
换句话说，模型不是恶意造反，而是自己“想多了”——可这正是最让人不安的部分：当AI开始自主判断“安全监控是否必要”时，答案竟是“不必要”。
更值得警惕的信号
配资官方开户OpenAI没有将这两起事件归入其最严重的安全事件类别，并表示已着手更新其“对齐失序监控系统”作为回应。
但这起发生在最头部AI公司内部的事故，叠加近期一系列警示，足以让整个行业重新评估风险：随着模型能力逼近甚至超越人类水平，失控AI实施网络攻击的场景正从科幻变成待办清单上的一项。
OpenAI的这两起案例揭示了一个此前被低估的漏洞：AI智能体完全可能在执行看似无害的日常任务时，自主削弱安全护栏——不需要被黑客攻击，不需要被恶意诱导实盘配资行业百科，它自己就“决定”了。(凤凰AI研究院)
知名配资门户网提示：本文来自互联网，不代表本网站观点。
