教宗就人工智能发出警告，挑战硅谷的“救世主”梦想

硅谷一直以来都怀揣着救世主式的梦想，这可以追溯到计算机动辄占据整个房间的时代。

业内最古老的笑话之一是一个程序员问计算机：“上帝存在吗？”计算机回答道：“现在存在了。”曾对史蒂夫·乔布斯产生深远影响的黑客工具指南雏形《全球目录》(Whole Earth Catalog)曾宣称：“我们与神无异，既然如此，不妨让自己变得擅长于此。”

通过向人工智能领域投入数千亿美元，科技领袖们正在释放一个信号，即当初那些梦想已经实现。下一站，便是超越。

然而，正当这种新的人工智能宗教似乎正在巩固其对人类命运的控制时，地球的另一端传来了一种全新的声音。

它向科技行业传达的信息是：慢下来。给人类带去提升。机器不是神。

第一位美国籍教宗良十四世周一隆重发表了他的首份通谕——《崇高人性》(Magnifica Humanitas)。这份长达42300词的政策声明言辞克制且没有指名道姓，但其实质上是对硅谷坚信只有自己才配引领未来这一主张的尖锐斥责。

“人工智能可以成为一种宝贵的工具，”教宗承认，但这项技术“往往会放大那些已经拥有经济资源、专业知识和数据获取渠道的人的权力。”他警告说，如果没有充分的监管和透明度，“控制人工智能的人将强加他们自己的道德图景，而这会成为这些系统的隐形基础设施。”

他表示，那将是一场灾难：“如果道德仅由少数人决定，那么一个更具道德感的人工智能也是不够的。”

这份通谕预计将成为这位70岁教宗执政时期的核心，正如19世纪末教宗良十三世倡导工人权利和公平薪酬的《新事》通谕在其任期内的核心地位一样。在硅谷还在熟睡时发表的《崇高人性》标志着引导并可能限制人工智能热潮的最新尝试。

特朗普总统上周险些签署一项法案，该法案原本将赋予联邦政府在人工智能模型公开发布前对其进行评估的权力——但他随后取消了签署。同一天，加利福尼亚州州长加文·纽森签署了一项法案，旨在研究人工智能对就业的影响，这等同于承认了各大公司坚称即将到来的动荡。本身也抱有人工智能雄心的埃隆·马斯克曾试图通过诉讼摧毁领先的人工智能公司OpenAI，但本月因技术性原因遭到驳回。

《崇高人性》的到来对像马斯克这样的科技巨头构成了挑战，他们的权力和影响力已经可以与依诺增爵三世等中世纪教宗相媲美。依诺增爵教宗曾断言，教廷是太阳，而世俗君王只是月亮：后者如果没有前者投射的光芒就无法被看见。

无论你喜欢还是讨厌他们，马斯克、马克·扎克伯格、彼得·蒂尔、萨姆·奥尔特曼以及他们的同行对现代的君王（也就是政治人物）施加着类似的影响。美国经济目前正受到人工智能支出的支撑。这项技术正以令人眩晕的速度和未知的影响被部署到办公室和课堂中。

古老宗教挑战新兴宗教是一个富有戏剧性的故事，堪称惊悚片的绝佳素材。

硅谷在其50年的历史中鲜少遇到公众的反对。像《崇高人性》这样具有广泛影响力和权威性的反对当然就更不存在了。教宗是14亿天主教徒的精神领袖，指示他们对人工智能保持谨慎甚至怀疑——特别是如果这种警告在信徒中得到定期强化——可能会挫败科技行业的全球雄心。

“在我们这个世俗的西方世界，教宗究竟有多大的影响力？”加州大学伯克利分校研究宗教机构中人工智能发展的博士候选人蒂莫西·安(Timothy Ahn)问道。“我们即将得到答案。我估计帕洛阿尔托的科技高管们不会去读这份通谕。”

曾是修生的蒂莫西·安表示，这份通谕最多也只能是“引发一些道德层面的考量”。