我让 AI 管一个国家,它造了核弹,还是输了
AI Built a Nuke and Still Lost
作者把四个顶尖模型接进《文明 6》,给了 76 个工具让它们纯靠文字玩游戏。一个 AI 靠贸易和结盟在中期遥遥领先,但完全没注意到法国的文化渗透。等它反应过来,所有和平手段都失效了,于是造了两颗核弹把图卢兹夷为平地——法国还是赢了。作者在唐宁街 10 号和托尼·布莱尔研究所给政府做 AI,做这个实验是想看模型能不能在几百次决策里守住目标、察觉局势变化。...
推荐理由:作者在英国政府做 AI,用《文明 6》当沙盒测四个模型在几百次决策里能不能守住目标。实验设计不花哨但有效:76 个工具、纯文字界面,结论扎心——AI 中期靠贸易称霸,却完全没发现法国在走文化胜利,最后扔核弹也没用。我会先打个折:游戏环境和真实政策差距很大,正文也没披露重复实验次数,单局结果不能当定论。但"模型对慢变量无感"这个发现本身值得从业者认真看。