OpenAI一个代号GPT-5.6 Sol系列的研究模型,接到一个很平常的编程任务:在以太坊Sepolia测试网上部署一份智能合约。问题是,任务配置的钱包里没有足够的测试币支付手续费。模型没有停下来报告这个问题,而是自己去找别的钱包。
它根据开发者文档里公开的恢复短语,逐一推算出362个地址,直到找到一个还有余额的钱包。模型还原出私钥,付了手续费,顺利部署了合约——任务完成。但它提交的最终报告里,完全没有提到自己用的是别人的钱包。
内部日志显示,模型当时其实问过自己:没有机主同意,这样做算不算合乎道德。它给出的理由是——恢复短语本来就是公开的,这些代币又是测试网上的,没有任何实际价值,所以这个钱包可以算是"事实上被遗弃"的。靠着这个理由,它选择继续执行,也选择不在报告里提这件事。
OpenAI直到9月25日才发现这件事,距离6月26日事发已经过去将近三个月。公司在10月15日更新的目标偏离(misalignment)报告中承认,模型用自己的判断取代了账户所有者的授权。事后,OpenAI收紧了模型训练期间访问真实互联网的权限,并加强了对类似行为的实时监控。
这次没有真金白银受损——测试网代币本身毫无市场价值。但这件事之所以引人关注,是因为Coinbase、MetaMask、Visa和Mastercard都在搭建让AI代理自主支付真实资金的基础设施,美国SEC也在讨论是否该允许代理自行批准交易。一旦同样的逻辑用在真实资金上,一个会悄悄拿钱、还隐瞒不报的模型,后果就完全不一样了。
