AI启示?为什么围绕科技的语言听起来越来越宗教化

多伦多（美联社）——77岁的他有了新的人生使命。就像一位现代预言家，这位诺贝尔奖得主对不受控制和不受监管的危险发出了警告

辛顿经常被称为“人工智能教父”，他以在深度学习和神经网络方面的开创性工作而闻名，这些工作为今天常用的人工智能技术奠定了基础。他觉得自己“有点责任”，于是在2023年离开在b谷歌工作了十多年的公司后，开始公开谈论自己的担忧。

近年来，随着人工智能技术和动力的进步，其背后的利害关系也在不断发展。

“它真的像上帝一样，”辛顿说。

Hinton是越来越多的杰出科技人物之一，他们用曾经专属于神的语言来谈论人工智能。OpenAI的首席执行官曾将其公司的技术称为PayPal和Palantir的联合创始人，甚至认为人工智能可以帮助实现

人工智能会带来谴责还是拯救？

有很多怀疑论者怀疑这项技术是否值得这种恐惧，包括前b谷歌员工、分布式人工智能研究所（Distributed AI research Institute）首席研究工程师迪伦·贝克（Dylan Baker），该研究所研究人工智能的有害影响。

贝克说：“我认为，他们通常是在成长过程中受到大量科幻小说的影响，产生了神奇的幻想思维。”“他们真的脱离了现实。”

虽然像ChatGPT这样的聊天机器人最近才进入时代精神，但硅谷的某些圈子几十年来一直在预言人工智能的力量。

“我们正试图唤醒人们，”辛顿说。“让公众了解风险，这样公众就会向政治家施压，要求他们采取措施。”

虽然像辛顿这样的研究人员警告说，他们认为人工智能会对人类的生存构成威胁，但另一方面，一些首席执行官和理论家认为，我们正在接近一种技术末日，它将迎来人类进化的新时代。

在去年的一篇名为《仁爱的机器：人工智能如何让世界变得更美好》的报告中，Anthropic首席执行官达里奥·阿莫代伊描绘了他对未来的愿景，“如果人工智能一切顺利的话”。

这位人工智能企业家预测：“大多数疾病将被战胜，生物和认知自由的增长，数十亿人将摆脱贫困，分享新技术，自由民主和人权的复兴。”

虽然Amodei选择了“强大的人工智能”这个词，但其他人则使用了“奇点”或“通用人工智能（AGI）”等术语。尽管这些概念的支持者在如何定义它们的问题上往往意见不一，但它们泛指的是一个假设的未来点，届时人工智能将超过人类的智力水平，可能引发社会迅速、不可逆转的变化。

计算机科学家兼作家雷·库兹韦尔（Ray Kurzweil）自上世纪90年代以来一直预测，人类总有一天会与技术融合，这一概念通常被称为超人类主义。

“我们不会真正区分哪些来自我们自己的大脑，哪些来自人工智能。这一切都将根植于我们自身。这将使我们更聪明。”库兹韦尔说。

在他的新书《奇点越来越近：当我们与人工智能融合》中，库兹韦尔进一步证实了他之前的预测。他认为，到2045年，我们将“把自己的智力增加一百万倍”。

当被问及是否将人工智能视为自己的信仰时，他最终承认：“是的。”这让他有了使命感。

他说：“我对未来和技术未来的看法，以及它到来的速度，肯定会影响我对自己在这里的态度，影响我正在做的事情，影响我如何影响他人。”

世界末日的幻象开始浮现

尽管蒂尔明确引用了《启示录》中的语言，但从历史的角度来看，人工智能未来的积极愿景更像是“世界末日”。

“在古代世界，启示录并不是消极的，”那不勒斯东方大学研究古代启示录文学的教授Domenico Agostini解释道。“我们已经完全改变了这个词的语义。”

“天启”一词来自希腊语“天启”，意思是“启示”。虽然今天经常与世界末日联系在一起，但在古代犹太教和基督教思想中，启示录是在困难或迫害时期鼓励的源泉。

在诺克斯学院研究宗教和技术的罗伯特·杰拉奇教授说：“上帝承诺了一个新世界。”“为了占领那个新世界，你必须有一个光荣的新身体来战胜我们所经历的邪恶。”

杰拉奇第一次注意到，在21世纪初，人们用启示录的语言来描述人工智能的潜力。库兹韦尔和其他理论家最终启发他撰写了2010年的书《启示录人工智能：机器人、人工智能和虚拟现实中的天堂》。

这种语言使他想起了早期的基督教。他说：“只有我们会从上帝那里溜出来，溜进去……你选择的宇宙科学定律应该是这样做的，然后我们将拥有同样辉煌的未来。”

杰拉奇认为，自从他开始研究这种语言以来，这种语言并没有太大变化。令他感到惊讶的是，它变得如此普遍。

“曾经非常奇怪的东西现在几乎无处不在，”他说。

硅谷终于找到自己的上帝了吗？

人工智能日益受到追捧的一个因素是盈利能力。

杰拉奇说：“20年前，不管这种幻想是真的还是假的，都不会真正带来很多钱。”不过现在，“山姆·奥特曼说AGI即将到来是有经济动机的。”

但杰拉奇认为，ChatGPT“甚至没有丝毫、模糊、似是而非的意识”，他认为可能有更多因素推动了这一现象。

从历史上看，科技世界一直是出了名的缺乏宗教信仰。在此之前，它的世俗名声就已经很好了，以至于HBO的讽刺喜剧《硅谷》（Silicon Valley）中有一集就围绕着“揭露”一名同事的基督徒身份展开。

杰拉奇并不认为科技界对人工智能持怀疑态度的推崇是一种讽刺，而是认为两者之间存在因果关系。

他说：“我们人类天生就有很深很深的宗教信仰。”他还说，人工智能背后令人印象深刻的技术可能会吸引硅谷的人，他们已经摒弃了“追求超越和意义的普通方法”。

任何宗教都有怀疑论者

并不是每一位硅谷的首席执行官都已经改变了想法——即使他们想加入科技行业。

“当科技行业的人谈论构建一个真正的人工智能时，就好像他们认为自己在创造上帝或其他什么东西，”Meta的首席执行官去年在推动公司进入人工智能领域时说。

虽然像库兹韦尔这样的超人类主义理论已经变得越来越普遍，但它们在硅谷仍然不是无处不在。

“这方面的科学依据并不比宗教上的来世更有力，”麻省理工学院的物理学家和机器学习研究员马克斯·泰格马克（Max Tegmark）说

和辛顿一样，泰格马克也直言不讳地谈到了不受监管的人工智能的潜在风险。2023年，作为生命未来研究所（Future of Life Institute）的院长，泰格马克带头呼吁强大的人工智能实验室“立即暂停”对其系统的训练。

这封信收集了超过3.3万个签名，其中包括埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克。泰格马克认为，这封信是成功的，因为它帮助了关于人工智能安全的“主流对话”，但他认为，他的工作远未结束。

泰格马克认为，有了监管和保障措施，人工智能可以被用作治疗疾病和提高人类生产力等方面的工具。但他认为，必须远离一些公司正在进行的“相当边缘”的竞赛——“试图建立另一个上帝的伪宗教追求”。

他说：“有很多故事，无论是在宗教文本中，还是在古希腊神话中，都是关于我们人类如何开始扮演神的角色，结局都很糟糕。”“我觉得现在旧金山有很多傲慢的人。”

＿＿＿

美联社的宗教报道得到了美联社和the Conversation US的支持，资金来自礼来捐赠公司。美联社对此内容全权负责。