人工智能系统所能完成任务的复杂程度，每四至七个月便翻一番。这不是科技公司的营销话术，而是联合国首份独立全球AI科学评估报告的核心结论。
由图灵奖得主约书亚·本吉奥担任联合主席的40位跨地区专家对人工智能的风险与机遇进行了系统评估。他们的结论直接而令人不安：技术发展速度已超越科学理解能力，也超过了各国政府的应对能力，没有任何机制能保证AI不会造成灾难性危害。
报告列出的具体风险包括：对自主AI系统失去控制、AI生成虚假信息泛滥、新一代网络攻击，以及AI被用于生物威胁的可能性。与此同时，全球治理格局严重碎片化——大多数国家甚至缺乏评估先进AI系统的工具，更遑论主动影响其发展方向。
该报告将于7月6日至7日在日内瓦举行的首届联合国AI治理全球对话会上提交各国政府。与此同时，由卢旺达总统保罗·卡加梅与Salesforce首席执行官马克·贝尼奥夫联合主持的「AI向善全球委员会」宣告成立。
科学家们并不主张停止AI发展，他们承认这项技术在医疗、教育和科研领域具有巨大潜力。他们真正担忧的，是这场竞争本身的逻辑：企业部署速度超过安全测试速度，形成了系统性的安全标准竞次。日内瓦对话，是各国政府首次尝试共同制定规则的机会。
