正文

Instinct否认跨用户数据泄露:只是模型幻觉,48小时紧急补防线

动察 Beating AI 快讯,Instinct 创始人 Noah Shinn 回应此前的「陌生财务文件」事件,称这并不是数据泄露。模型先编造了一个人名,随后又在推理过程中不断补充细节,最后才出现了「别人的图片串进聊天」这套解释。Shinn 称,没有用户数据被共享,也没有发生跨用户隔离失效。

他表示,Instinct 原本就通过独立沙箱、短期本地凭证和身份签名的工具调用来隔离用户数据。过去 48 小时,团队又做了一套主动幻觉检测系统,用小模型检查平台里的输出。一旦判断内容可能是瞎编的,可以在 Instinct 继续推理或调用工具前把它拦下来。

不过,Shinn 没有公开说明团队如何确认这次一定是幻觉,也没有公布后台日志或检测系统的实际效果。Business Insider 也指出,目前「没有发生数据泄露」仍然主要来自 Instinct 自己的判断。

原文链接:https://m.theblockbeats.info/flash/368830