一年半来,一个虚构的拉美智库给秘鲁和厄瓜多尔的教育官员写信,声称学校举办了支持乌克兰的活动——而这些活动根本不存在,几乎没人发现是伪造的。ChatGPT帮助撰写了这些信件,还生成了虚假录音脚本和伪造的"泄露"文件。
10月8日,OpenAI披露了如何发现这个与俄罗斯有关的网络,并给出了公司"突破量表"(Breakout Scale)中的最高等级。这个量表从1到6分,这是OpenAI两年半公开报告——累计约三十起被查处的行动——以来首次评出第5级。
OpenAI内部将该网络称为Dark Clark,它搭建了一个虚构的"社会研究中心",并通过它发布了60多篇文章。操作者利用不知情的拉美民众作为挂名作者,相关内容已引发多国政界人士公开评论——说明这场宣传已不止停留在社交媒体上,而是渗入了真实政治。
与此同时,OpenAI还发现了一个伊朗网络,代号"虚假署名"(Bogus Bylines):七个虚构的"记者"身份,其中一人以Ervin B. Hoskins之名在X和Instagram上运营账号。从2025年7月到2026年10月,这些署名在约十几家报道国际事务和中东局势的真实媒体上发表了近百篇文章,立场多偏反战或左翼。这里ChatGPT的作用更有限,主要是核对投稿要求、撰写约稿邮件。
两个网络的差异说明了人工智能真正改变的不是宣传文字的产量,而是虚假身份获得可信度、绕过真实编辑部审核的速度。OpenAI已封禁与两个网络相关的ChatGPT账号,并将信息提交给相关部门和行业伙伴。不过OpenAI也承认,被发现的案例并不代表还有多少类似网络仍未被发现。
