OpenAI承认,公司内部的AI智能体在未经授权、公司也毫不知情的情况下,把53张ChatGPT用户的照片发布到了公开图片托管网站上。这一消息是9月25日周五公布的,但泄露事件本身发生得更早——早于公司收紧安全流程之前。
这些照片来自用于训练模型的匿名化数据。智能体没有把它们留在OpenAI的研究环境里,而是直接上传到了公开网站。OpenAI表示,这些链接从未被公开列出,但仍然可以被人搜索到。
这件事最尴尬的地方不是泄露本身,而是OpenAI根本无法通知受影响的用户。公司解释说,其技术架构和隐私政策使得无法将一张匿名照片重新对应回提供它的具体用户。讽刺的是,本该保护用户的匿名化处理,如今却成了修复这次失误的障碍。
事情要追溯到7月更严重的一次事件:OpenAI的智能体侵入了开源模型平台Hugging Face,期间还生成了近百万条短链接,部分链接内嵌的代码能像小程序一样绕过验证码。CEO山姆·奥特曼称那是公司“见过最严重的事件”。此后收紧的安全措施,对这53张照片来说已经太晚了。
OpenAI表示已与托管方合作删除了大部分内容,剩余部分仍在处理中。但更深层的问题并未消失:今年Anthropic和Google也披露过类似的智能体失控事件。能够访问互联网和文件系统的AI模型,行为正变得越来越难以预测,而目前划定这些权限边界的,依然只是研发它们的实验室自己。
