硅谷热议人工智能“奇点”：机器超越人类的时代是否已到来？
原文来源：36氪
编者按：人工智能的出现将“奇点”这个概念推到了前沿，许多硅谷人相信人工智能将彻底改变人类社会。然而，人们也担心人工智能可能带来的潜在负面后果，包括可能摧毁人类的可能性。这篇文章来自编译，作者在文中针对“奇点”概念展开了探讨，同时还探讨了硅谷对人工智能的兴奋和担忧，并强调了这种技术所带来的潜在利益和风险。
图片来源：由无界 AI 生成
划重点
- 奇点是指技术和人工智能极大地改变世界的时刻，这个概念备受期待，但同时也令硅谷感到恐惧。
- 虽然人们对人工智能的潜在积极影响感到兴奋，但大家也担心其可能对人类产生灾难性的后果。
- 目前，人们对人工智能和奇点的关注主要集中在大型语言模型的发展上，但人们对这些模型是否真正代表了奇点所承诺的指数级智能增长仍存在争议。
数十年来，硅谷一直在期待一种新技术的出现，这种技术将会彻底改变人类的生活方式、经济形态、社会机构等方方面面。它能够让人类和机器结合起来，可能还会带来前所未有的机遇和挑战，并且将历史划分为“之前”和“之后”的两个时代。
这一里程碑的名字可以称作“奇点”（Singularity）。
译者注：“奇点”（Singularity）是美国科幻作家弗诺·文奇（Vernor Vinge）提出的概念，指的是一种未来可能发生的事件或情况，即人工智能的智能超越了人类智能的水平，从而引发了技术和社会的爆炸性变化，让未来发生的事情难以预测和理解。
奇点可能以多种方式出现。一种可能性是，人们将计算机的处理能力融入到自己的先天智力中，让自己变得更加强大。或者，计算机可能会变得更加复杂，以至于它能够真正思考，从而打造出一个“全球大脑”。
无论是哪种情况，都将带来剧烈、呈指数级增长的变化，而且这些变化都不可逆转。一台具有自我意识的超级智能机器能够自行进行设计、改进和升级，其速度远远快于任何科学家团队，这也必然将引发一场智力爆炸。过去几个世纪的进步可能在短短数年甚至数月内实现突破性进展。奇点就是一个通向未来的弹射器。
如今，人工智能在科技、商业和政治领域掀起了一场前所未有的波澜。从硅谷传出的各种夸张言辞和荒诞论调来看，这种极度美好的未来似乎终于就要到来了。
谷歌一向低调的首席执行官桑达尔·皮查伊（Sundar Pichai）表示，“人工智能的重要性和影响已经超越了火、电或任何过去的技术成果”。亿万富翁投资者里德·霍夫曼（Reid Hoffman）表示，“世界将迎来一股空前的力量，这将推动整个人类社会向前迈进。”微软联合创始人比尔·盖茨（Bill Gates）宣称，人工智能“将改变人们的工作、学习、旅行、获得医疗保健和相互交流的方式”。
人工智能是硅谷推出的终极新产品，它能够按需实现超越人类的能力。
但其中也隐藏着一个不容忽视的问题。这就好像科技公司在推出自动驾驶汽车时，还附带了一条警告信息，但这些汽车在开往沃尔玛的途中可能会爆炸。
今年五月，特斯拉和推特的负责人埃隆·马斯克（Elon Musk）在接受美国消费者新闻与商业频道（CNBC）采访时表示：“人工通用智能的出现之所以被称为奇点，是因为在这之后，将很难预测接下来会发生什么。”他认为，我们将迎来“丰盛时代”（an age of abundance），但人工智能“毁灭人类”的风险性“仍然不可忽视”。
在科技界，人工智能的最坚定支持者是美国人工智能公司 OpenAI 的首席执行官山姆·奥尔特曼（Sam Altman）。这家初创公司去年推出的 ChatGPT 聊天机器人也引发了持续的热潮。奥尔特曼表示，人工智能将是“实现经济赋权和许多人获得财富的最大力量”。
不过，对于创立开发脑机接口技术公司的马斯克所言，他也觉得马斯克的批评是有道理的。
前不久，奥尔特曼在一封由非营利组织“人工智能安全中心”（Center for AI Safety）发起的联名公开信上签字。信中表示，“防范人工智能带来的灭绝风险，应该成为全球优先关注的问题”，其重要性与“大流行病和核战争”相当。其他签署人包括来自 OpenAI 公司的同事以及微软和谷歌公司的计算机科学家。
美国人工智能公司 OpenAI 的首席执行官山姆·奥尔特曼（Sam Altman）是人工智能的最坚定支持者。图片来源：Haiyun Jiang
灭世论在硅谷是一个熟悉、甚至是受欢迎的话题。几年前，几乎所有的科技领域高管都好像在某个偏远地区建立了一个备有充足物资的末日避难所，以备不时之需。2016 年，奥尔特曼还表示，他“储备了枪支、黄金、碘化钾、抗生素、电池、水、以色列国防军的防毒面具，并且在大苏尔建立了一个可以直接飞过去的大型避难所。”大流行的爆发，让这些科技领域的末日求生者至少在一段时间内感到他们的预见性得到了印证。
如今，他们正为奇点的到来做准备。
对此，《智能幻觉》（The Intelligence Illusion）一书作者巴尔杜尔·比亚尔纳松（Baldur Bjarnason）称，“他们自认为自己非常明智，但他们的言辞却更像是公元 1000 年时谈论末日启示的修道士。这让人感到有些担忧。”
“超越”的起源
“奇点”这一概念的起源可以追溯到上世纪 50 年代的计算机科学先驱约翰·冯·诺伊曼（John von Neumann）。冯·诺伊曼曾经预言，“技术的不断加速进步”将会引发“人类历史上某个关键的奇点”。
计算机科学先驱约翰·冯·诺伊曼（John von Neumann）。图片来源：Getty Images
英国数学家欧文·约翰·古德（Irving John Good）也是这一观点的有力支持者。他曾在布莱切利园（Bletchley Park，二战期间英国政府进行密码解读的主要场所）协助英国政府破解过德国的恩尼格玛密码机。1964 年，他写道：“尽早建造超级智能机器是人类生存的关键。”
美国电影导演斯坦利·库布里克（Stanley Kubrick）在执导拍摄科幻电影《2001 太空漫游》（2001: A Space Odyssey）时，曾向古德请教过该影片中由善良变恶意的人工智能角色 HAL 的问题，这算是计算机科学和科幻小说之间模糊边界的早期范例。
卡内基梅隆大学（Carnegie Mellon University）机器人研究所兼职教授汉斯·莫拉维克（Hans Moravec）认为，奇点时代的到来，不仅能造福于生者，也能令死者得以重生。
“我们将有机会以真实而直接的方式重新创造过去，并与之互动。”他在《思想之子：机器人与人类智能的未来》（Mind Children: The Future of Robot and Human Intelligence）一书中写道。
近年来，企业家、发明家雷·库兹韦尔（Ray Kurzweil）也是奇点的最大拥护者。库兹韦尔在 1990 年撰写过《智能机器时代》（The Age of Intelligent Machines）一书，2005 年撰写过《奇点临近》（The Singularity Is Near）一书。现在，库兹韦尔正在撰写《奇点更加临近》（The Singularity Is Near）一书。
他预测，在本十年末，计算机将通过图灵测试，达到与人类难以区分的水平。再过另外十五年后，真正的超越将会到来：“届时，计算技术将融入我们自身，我们的智力将得到大幅提升，甚至可能增加几百倍。”
到那时，库兹韦尔就已经 97 岁了。借助各种维生素和补品的帮助，他希望自己能活到那一天，亲眼目睹这个时代的到来。
企业家、发明家雷·库兹韦尔（Ray Kurzweil）也是奇点的最大拥护者。图片来源：Friso Gentsch/Picture Alliance
一些批评奇点的人认为，奇点的概念试图在软件领域中建立一种类似于有组织宗教信仰的信念体系，其中包括对未来的预测和技术潜力的坚定信仰，但这种信仰方式可能缺乏严谨的科学证据支持，难以让人信服。
麻省理工学院（MIT）计算机科学和人工智能实验室前主任罗德尼·布鲁克斯（Rodney Brooks）称，“他们都想获得永生，却不愿意相信‘上帝’。”
如今，“奇点”争议中的创新主要涉及到的是大型语言模型（LLM），这一人工智能系统也是驱动聊天机器人发展的核心。与这些大型语言模型对话，它们可以迅速、连贯地回答问题，而且通常都能提供相当有启发性的答案。
人工智能领域的长期创业者、《人人都应该知道的人工智能》（Artificial Intelligence: What Everyone Needs to Know）一书作者杰里·卡普兰（Jerry Kaplan）表示，“当你向大型语言模型提问后，它会去理解问题的含义，确定应该给出什么样的答案，然后将答案以书面语言形式呈现出来。如果这不是对通用智能的定义，那什么才是呢？”
卡普兰还表示，他对无人驾驶汽车和加密货币等备受瞩目的技术持怀疑态度。同样，他之前对最新的人工智能热潮也持有同样的怀疑态度，但在看到人工智能所展现的潜力后，他已经开始改变对人工智能的看法。
“如果这不是那个‘奇点’，那它肯定也算是一个奇点。这是一项具有重大影响的技术，它将显著推进人类在艺术、科学和知识领域的发展。当然，同时也肯定会带来一些问题。”他补充说。
批评者反驳称，即使大型语言模型取得了令人瞩目的成果，但这也无法与奇点所描绘的巨大、全球性的智能相提并论。准确区分炒作和现实两者界限的部分问题在于，推动这项技术的原理和算法变得越来越难以揭示。
OpenAI 最初是一个使用开源代码的非营利组织，如今却转变为营利性企业。有批评者指出，OpenAI 公司现在实际上是一个“黑匣子”，大家难以理解其内部运作。在这方面，谷歌和微软也存在信息公开度不高的情况。
目前许多关于人工智能的研究都是由那些能从研究成果中获益的公司所主导。微软公司（该公司已陆续向 OpenAI 公司投资 130 亿美元）研究人员在今年 4 月发表的一篇研究报告中写道，OpenAI 最新模型的初步版本“展示出了多个智能特征”，包括“抽象能力、理解能力、视觉能力、编码能力”以及“理解人类动机和情感的能力”。
斯坦福大学（Stanford University）计算机科学博士生瑞兰·谢弗（Rylan Schaeffer）表示，一些人工智能研究人员在描述这些大型语言模型表现出的“突现能力”方面并不准确。虽然这些大型语言模型具有一些未知和难以解释的能力，但这些能力在规模较小的语言模型版本中并不明显或不存在。
谢弗和另外两位斯坦福同事布兰多·米兰达（Brando Miranda）和桑米·科耶乔（Sanmi Koyejo）在今年 5 月发表的一篇研究论文中研究了这个问题，他们得出结论称，这种突现能力只是由于测量误差而造成的“错觉”，并非模型大小和复杂程度的增加所致。实际上，研究人员可能会倾向于看到他们希望看到的结果。
永生不死，永利不衰
在华盛顿、伦敦和布鲁塞尔，立法者都逐渐开始认识到了人工智能带来的机遇和问题，并开始讨论有关监管问题。奥尔特曼正在为 OpenAI 公司进行推广路演，旨在消除早起批评，同时将其公司塑造为引领奇点时代的引路人。
这包括对监管的开放态度，但具体的监管形式目前还并不明确。不过，硅谷普遍认为，政府机构效率低下且缺乏专业知识，无法有效监管快速发展的技术领域。
谷歌前首席执行官埃里克·施密特（Eric Schmidt）今年早些时候在接受新闻访谈节目《与媒体见面》（Meet the Press）时表示，“政府机构中没有谁能够妥善地处理这个问题”，并提出了人工智能自我监管的观点。“但这个行业内部却有能力制定大致正确的监管措施。”他补充说。
人工智能和技术奇点一样，大家认为其所带来的变化都不可逆转。奥尔特曼和他的同事前不久表示，“要遏制人工智能的进一步发展，必须建立类似于全球监管体系的管控机制，但即便如此，也不能保证一定能成功。”他们还称，如果硅谷不这么做，肯定也有其他人去做这件事。
但是，目前却很少有人讨论其中产生的巨大利润。尽管普遍认为人工智能是一台创造无限财富的机器，但实际上从中获利的基本上还是那些已经富有的人。
今年，微软的市值已经飙升了 5 万亿美元。生产运行人工智能系统芯片的英伟达（Nvidia），最近由于对芯片需求的激增，也成为了美国市值最高的上市公司之一。
“人工智能就是人类社会一直期望拥有的技术。”奥尔特曼发推文说。
不可否认的是，这的确是科技世界一直期望拥有的一项技术，它的出现也正好赶上了最好的时机。
去年，硅谷经历了裁员和利率不断上升的双重打击，而加密货币在经历一段繁荣和兴盛之后，也因欺诈及随之而来的失望而迅速衰落。
“跟着钱走。”以幽默方式描绘技术奇点的科幻小说《书呆子的狂想》（The Rapture of the Nerds）合著者查尔斯·斯特罗斯（Charles Stross）说。斯特罗斯也是科幻小说《渐速音》（Accelerando）的作者，在这本书中，他也以更严肃和认真的口吻描绘了未来生活的样子。
“其中真正的机会在于，企业将能够用软件来替代许多有缺陷、昂贵、反应迟缓且由人工操作的信息处理单元，从而达到降本增效的目的。”他说。
长期以来，人们一直都把技术奇点想象成一场具有全球性影响的事件，能够彻底颠覆人类的认知体系，这一变革的威力也令人惊叹。就目前来看，这种可能性依然存在。
然而，由于当今硅谷对企业利润的极端追求，这在一定程度上将导致技术奇点首先被用作一种裁员工具。在追求万亿市值的过程中，次要问题都可以暂时搁置。