bibibi.ccLoading…
报道称，Anthropic正在开发FlashProve，用密码学验证AI输出来自哪个模型。
Anthropic正开发开源系统FlashProve，用密码学证明AI输出来源
PANews 11月4日消息，据IT之家报道，Anthropic正在开发一套名为FlashProve的开源系统，通过密码学证明验证某一AI输出究竟由哪个模型生成。该系统旨在实现“可证明推理”，为用户提供数学层面的保证，确认收到的答案确实来自其认为正在使用的模型，并抵御将一个模型伪装成另一个模型的行为。FlashProve工作原理类似加密电子邮件签名，可为每个模型提供不泄露权重的“指纹”，之后与特定输出匹配验证。研究人员称，该系统有望防止AI公司暗中换用更便宜的模型，或企业换用更昂贵模型抬高测试结果，也可验证第三方关于某项任务由先进模型完成的声明。系统设计轻量化，用户可在本地设备完成验证。A...
Source: https://www.panewslab.com/zh/articles/01a1a5b7-0a8f-77bc-8287-ab918a1c2772
PANews转述IT之家报道称，Anthropic正在开发名为FlashProve的开源系统。
报道描述该系统通过密码学证明验证某一AI输出由哪个模型生成。
系统旨在实现“可证明推理”，确认答案来自用户认为正在使用的模型。
报道说，FlashProve可为模型提供不泄露权重的“指纹”，并与特定输出匹配验证。
报道说，用户可在本地设备完成验证。
The following is analysis, separate from reported facts. Verify important claims independently.
简单说，FlashProve试图给模型生成的答案配上可验证的密码学凭证，让用户检查答案是否确实来自指定模型。
如果报道描述的功能能够实现，模型来源验证可能用于AI服务审计和第三方声明核验。
这与判断AI答案是否由指定模型生成有关，但目前仍是开发中的项目。
Loading event timeline…