彼得·蒂尔在私人演讲里把格蕾塔·通贝里说成反基督精神:二十一世纪的敌基督是想挡住科学发展的卢德分子。AGI House 创始人之一杰里米·尼克松把人工智能能力比作基督再临。这不是修辞过火,是一套把扩张当救赎的神学。考克森、胡宾格、阿莫迪发出灭种警告后,阿莫迪仍写:即便放慢,「进展依然会显得迅速」。
标准答案是:反正不可避免,负责任的人必须抢在敌人前面。戈德堡说这不够。奥特曼设想大脑上传云端。马斯克要去火星,「永远困在地球直到灭绝」在他看来才是令人沮丧的未来。贝佐斯卸任亚马逊是为了把时间给太空公司,怕的是「停滞的文明」。安德森《科技乐观主义宣言》有一节叫「成为科技超人」,把科技伦理和生存风险列进「敌人」。
公众反对来得快,是因为成本和收益不匹配:数据中心毁环境、垃圾软件败文化、孩子用聊天机器人作弊,普通人得到的是更好用的搜索和邮件。医学许诺还没兑现。对投得最多的人,最不能承受的风险是停下来,困在有限的日常。克莱因和泰勒写:他们越来越自称有超自然权威,有权把人类进化领进由他们造的神统治的阶段。你信不信赛博朋克不重要,他们信。
还有备用方案。扎克伯格在考艾岛造末日营地;蒂尔试过新西兰,最近搬阿根廷当逃生通道。据报苏茨克维尔告诉员工,发布通用人工智能前会造掩体。罗斯·杜特问蒂尔:你更希望人类延续下去,对吗?长久沉默,勉强说是,紧接着一个但是,开始讲把自然身体变成不朽身体。对我们是赌注,对他们是召唤。