bibibi.cc正在加载…
微软CEO Satya Nadella称，超级智能时代需建立AI外部控制与审计体系。
昨夜今晨重要资讯（10月11日-10月12日）
微软CEO：超级智能时代不能依赖AI“黑箱”，需建立外部控制与审计体系微软CEO Satya Nadella发文表示，随着超级智能（Super Intelligence）系统能力快速提升，行业需要重新构建AI信任架构，不能将AI执行行为带来的责任交由模型提供方承担。过去几十年传统软件系统被广泛部署时，人们能够追踪程序行为对应的具体代码路径。但如今的前沿AI模型虽然能力已超过传统软件系统，却无法明确将模型输出归因于特定训练数据或模型权重配置。当前企业正在让复杂的AI智能体接触敏感数据，并赋予其执行关键任务的能力，因此不能将超级智能系统视为无法理解的“嵌套黑箱”，仅简单接受或拒绝其建议，而...
原文链接：https://www.panewslab.com/zh/articles/01a12dd6-9655-7525-9cba-f7f1d72afba9
微软CEO Satya Nadella发文表示，随着超级智能系统能力快速提升，行业需要重新构建AI信任架构。
Satya Nadella表示，不能将AI执行行为带来的责任交由模型提供方承担。
报道指出，前沿AI模型无法明确将模型输出归因于特定训练数据或模型权重配置。
报道指出，企业正让复杂的AI智能体接触敏感数据，并赋予其执行关键任务的能力。
Satya Nadella认为，不能将超级智能系统视为无法理解的“嵌套黑箱”。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
这里的核心问题是：能力强大的AI可能很难解释自身为何给出某个结果。因此，在AI接触敏感数据或执行关键任务时，不能只选择接受或拒绝其建议，还需要在模型之外设置控制和审计机制。
AI智能体一旦能够接触敏感数据并执行关键任务，其行为是否可追踪、可控制以及责任如何承担，会影响企业使用这类系统的方式。
新手可重点理解两个概念：AI“黑箱”是指难以明确追踪输出来源；外部控制与审计则是从模型之外检查和约束AI行为。
正在加载事件时间线…