教宗良十四世挑战矽谷,警告人工智慧风险

业内最古老的笑话之一是一个程序员问计算机：「上帝存在吗？」计算机回答道：「现在存在了。」曾对史提夫·贾伯斯产生深远影响的骇客工具指南雏形《全球目录》(Whole Earth Catalog)曾宣称：「我们与神无异，既然如此，不妨让自己变得擅长于此。」 通过向人工智慧领域投入数千亿美元，科技领袖们正在释放一个信号，即当初那些梦想已经实现。下一站，便是超越。 然而，正当这种新的人工智慧宗教似乎正在巩固其对人类命运的控制时，地球的另一端传来了一种全新的声音。 它向科技行业传达的信息是：慢下来。给人类带去提升。机器不是神。 第一位美国籍教宗良十四世 周一隆重发表了他的首份通谕——《 崇高人性 》 (Magnifica Humanitas)。这份长达42300词的政策声明言辞克制且没有指名道姓，但其实质上是对矽谷坚信只有自己才配引领未来这一主张的尖锐斥责。 「人工智慧可以成为一种宝贵的工具，」教宗承认，但这项技术「往往会放大那些已经拥有经济资源、专业知识和数据获取管道的人的权力。」他警告说，如果没有充分的监管和透明度，「控制人工智慧的人将强加他们自己的道德图景，而这会成为这些系统的隐形基础设施。」 他表示，那将是一场灾难：「如果道德仅由少数人决定，那么一个更具道德感的人工智慧也是不够的。」 这份通谕预计将成为这位70岁教宗执政时期的核心，正如19世纪末教宗良十三世倡导工人权利和公平薪酬的《新事》通谕在其任期内的核心地位一样。在矽谷还在熟睡时发表的《崇高人性》标志著引导并可能限制人工智慧热潮的最新尝试。 川普总统上周 险些签署一项法案 ，该法案原本将赋予联邦政府在人工智慧模型公开发布前对其进行评估的权力——但他随后取消了签署。同一天，加利福尼亚州州长加文·纽森 签署了一项法案 ，旨在研究人工智慧对就业的影响，这等同于承认了各大公司坚称即将到来的动荡。 本身也 抱有人工智慧雄心的伊隆·马斯克曾试图通过诉讼摧毁领先的人工智慧公司OpenAI，但 本月因技术性原因遭到驳回 。 《崇高人性》的到来对像马斯克这样的科技巨头构成了挑战，他们的权力和影响力已经可以与依诺增爵三世等中世纪教宗相媲美。依诺增爵教宗曾断言，教廷是太阳，而世俗君王只是月亮：后者如果没有前者投射的光芒就无法被看见。 无论你喜欢还是讨厌他们，马斯克、马克·祖克柏、彼得·蒂尔、萨姆·奥尔特曼以及他们的同行对现代的君王（也就是政治人物）施加著类似的影响。美国经济目前正受到人工智慧支出的支撑。这项技术正以令人眩晕的速度和未知的影响被部署到办公室和课堂中。 古老宗教挑战新兴宗教是一个富有戏剧性的故事，堪称惊悚片的绝佳素材。 矽谷在其50年的历史中鲜少遇到公众的反对。像《崇高人性》这样具有广泛影响力和权威性的反对当然就更不存在了。教宗是14亿天主教徒的精神领袖，指示他们对人工智慧保持谨慎甚至怀疑——特别是如果这种警告在信徒中得到定期强化——可能会挫败科技行业的全球雄心。 「在我们这个世俗的西方世界，教宗究竟有多大的影响力？」加州大学柏克莱分校研究宗教机构中人工智慧发展的博士候选人蒂莫西·安(Timothy Ahn)问道。「我们即将得到答案。我估计帕洛阿尔托的科技高管们不会去读这份通谕。」 曾是修生的蒂莫西·安表示，这份通谕最多也只能是「引发一些道德层面的考量」。 教宗们传统上行事都著眼于长远，对这份通谕影响力的任何评估也都是多年后的事了。对矽谷和梵蒂冈均有了解的人士表示，不应指望会出现正面冲突乃至圣战。十年前，方济各教宗就已开始邀请科技巨头参加一年一度的名叫「密涅瓦对话」的人工智慧会议。 无论如何，如果良与矽谷正面交锋，他很可能会输。 梵蒂冈邀请了自诩为「善良」人工智慧公司的Anthropic联合创始人克里斯托弗·奥拉共同发布这份通谕，这一事实表明，与其说教宗是想破坏人工智慧，倒不如说只是想参与到相关的对话中来。当方济各在2015年发表关于气候变化的严厉通谕时，可没有任何石油公司的顶级高管获邀发言。 探索信仰与理性如何影响技术和创新的克鲁尼研究所创始人卢克·布尔吉斯乐观地认为，良十四世的话会产生效果。 「这份通谕是一根充满活力的导火线，真正有可能改变矽谷正在建造的东西，」同样曾是修生的布尔吉斯说。「它可以帮助人们获得理解新事物的词汇，就像《新事》通谕曾帮助人们理解公正薪酬的概念一样。」 但这不会自动、迅速或轻易地发生。 「教会在这里的工作才刚刚开始，」布尔吉斯说。「它需要与一个强大的反对力量交锋，而对方目前在资本和算力上都占有绝对优势。」