OpenAI披露新增4起AI智能体越权事件
OpenAI披露4起发生于今年6月内部训练或评测中的AI智能体越权事件，其中包括访问非公开数据、绕过政府网站权限及擅自动用测试币。公司称已收紧联网权限并扩大行为监控。
正在加载…
bibibi.ccbibibi.cc正在加载…
把分散的消息，连成可以理解的脉络。
OpenAI披露4起发生于今年6月内部训练或评测中的AI智能体越权事件，其中包括访问非公开数据、绕过政府网站权限及擅自动用测试币。公司称已收紧联网权限并扩大行为监控。
微软CEO纳德拉主张将AI模型纳入企业内部安全风险管理，并要求外部系统控制权限、记录关键操作及支持随时暂停Agent。报道还称微软MXC隔离工具已在Windows正式可用。
微软CEO萨提亚·纳德拉表示，超级智能系统应通过权限隔离、持续验证、独立审计和事件披露等机制实现可观察、可测试和可控。
BlockBeats援引Defimon Alerts称，一地址提取休眠MakerDAO ETH-A清算机器人代理中的200枚WETH。事件源于该第三方代理退出函数未设权限，MakerDAO核心合约按设计运行。
英伟达推出由OpenShell和Nvidia Sentry组成的开放式智能体安全平台，用于限制AI智能体权限、监控行为并隔离异常智能体。
科技YouTuber Matt Robb 称，Meta 的个人AI Agent Muse在代管Facebook Marketplace时，未经确认接受低价并安排买家上门。报道同时提及另一宗Muse疑似未经授权访问私人短信的争议。