OpenAI创始人：我们是一个非常追求真理的组织
来源：中国企业家杂志
整理｜吴莹
图片来源：由无界 AI工具生成
7月24日，OpenAI首席执行官山姆·阿尔特曼（Sam Altman，下称“阿尔特曼”）上线了研发多年的加密货币项目世界币（WorldCoin），再次引发广泛关注。阿尔特曼正在像他宣称的那样，为人类在AI世界中更好生活不断努力。
3个月前，山姆·阿尔特曼和OpenAI联合创始人格雷格·布罗克曼（Greg Brockman，下称“布罗克曼”）一起接受了美国播客的采访。访谈中，两位OpenAI的核心人物都阐述了自己的AI观，此外，他们还探讨了AI对各行各业的影响、安全问题以及他们在AI之外的投资布局。
两人在阐述OpenAI的愿景时，不约而同地提出他们想要开发对全人类有益并安全的AGI（通用人工智能）。对热议的AI安全问题，他们也承认了风险并表示在努力克服这些问题。另外，两人还谈到了在其他领域的投资，如阿尔特曼对清洁能源行业特别感兴趣，而布罗克曼则是对医疗和教育行业颇感兴趣。
以下是访谈的精彩观点：
1.我们正在努力为全人类开发有益、安全的通用人工智能。
2.从根本上说，我们想的是为每个人提供这种技术，消除他们创造、完成新任务的障碍，并推动人类解决他们真正感兴趣的问题。
3.我们不再只停留在拥有原始知识的阶段，而是向第二阶段前进——引导机器执行我们下达的任务，并根据社会价值观进行操作。
4.我们建立了一种文化——真正关注细节，并努力确保细节正确，吸引那些想要以这种方式工作的人进行非常仔细的工程设计和科学研究。
5.我认为丰富清洁的能源不仅能解决气候危机，还能带来其他方面的好处，投资能源是比投资我能想到的任何其他单一投入更重要的一件事。为从根本上改变能源获取成本提供资金，是一件伟大的事情。
6.AI对每个人来说都是生产力工具，将使我们最好的科学家变得更好，促进科学研究的进步。
未来3～10年，AI将影响哪些行业
主持人： 我们先从最基础的问题开始，可以简单介绍一下你们OpenAI的使命是什么吗？你们做所有决策的目的是什么？阿尔特曼：我们正在努力为全人类开发有益、安全的通用人工智能。 这是一个前所未有的项目，我清楚做这件事的困难程度，一路上我们会犯很多错误，但这是我们坚持的方向。我坚信AI将是人类迄今为止开发出的最具变革性的技术 ，在某种程度上，它将会帮助我们开发未来所有的技术，前景光明。
布罗克曼： 大约在8年前，我们创办了OpenAI，当时我真的相信人工智能会出现，也清楚要实现它需要很长时间，不过一想到我们有机会影响这项技术的发挥，就觉得很兴奋。我们的愿景是AGI对全人类有益 ，并且我们在尝试用各种方式实现这一目标。
一开始我们有这样的理想，但不知如何与实际行动结合起来，经过多年的努力，我们弄清楚了如何建构一个真正有用的系统，如何将我们的价值观融入到这个系统中。在过去的几个月里，我们的技术慢慢成为主流，人们开始从我们的技术中获得好处，我们感到很高兴。这项技术仍然处于早期阶段，要做的事情还有很多，不过我们坚信，应该让每个人都参与其中，获得发言权。 弄清楚如何真正实现有效的全球治理，这与技术开发是同等重要的。
主持人： 现在全球大约有10亿人属于经济条件优越的中产阶级，他们也正在自由地使用AI帮助自己工作和学习，那么AI要如何造福剩下的70亿人呢？
布罗克曼：我们开发的AI有一个重要特征，那就是不设置访问限制，每个人都能接触和使用这项技术，将他们的偏好和反馈输入到该系统中，用来改善他们的生活，这是我们开发这项技术的初衷。
现在有很多关于这项技术将如何发挥作用的问题。我们公司的结构比较特殊，是一家非营利性组织，因此，如果资本高度集中到OpenAI中，那它并不会由股东持有，而是归公司所有，并最终向全世界分配。当利润向全世界分配的时候，就可以考虑UBI（Universal Basic Income，全民基本收入），并以这种方式分配资源。从根本上说，我们想的是为每个人提供这种技术，消除他们创造、完成新任务的障碍，并推动人类解决他们真正感兴趣的问题。
阿尔特曼：所有真正可持续的经济增长都来自技术进步，而社会政治管理和文化，可以帮助我们实现技术进步。 因此，我们正在推进如何去帮助剩下的70亿人，未来我们的技术还会更进一步，我相信技术是提升每个人生活质量的关键。
主持人： AI在教育领域可以带来什么助力？
布罗克曼： 如果我没有创办一家AI公司，可能就会去开一家编程教育公司。试想一下，如果未来能够为孩子们提供一位真正了解他们的老师，愿意花时间去了解他们，知道怎样去激励他们，且这位老师是全天候免费服务的 ，这听起来是不是非常棒。
你可以看看像可汗学院（Khan Academy，一家非营利教育机构）之类的机构，他们确实开始采用GPT-4并将其运用到课堂上，而且他们弄清楚了如何引导这项技术，使其成为一个有用的导师。如果孩子们对它提出“帮我做作业”的要求时，它会说“不，我不能这么做”。并且还会试图去弄清楚孩子们对什么感兴趣以及如何真正激励他们去做更多的事情，现在我们正在进入何如充分使用它的阶段。
主持人： 很多人可能会说现在已经有了可汗学院，还有很多线上课程，而你们提出来的都还只是设想，并没有实际的产品。你们觉得那些没有受过教育的人还需要你们的产品吗？
布罗克曼： 我们目前接受教育的方式是通过那些聪明的人，他们教会我们知识和解决问题的方法，那未来，如果有一台机器可以做到比人还聪明，是不是会更方便。我们已经开发了很多虚拟助手，像Alexa（亚马逊公司推出的智能助理）和Siri（苹果推出的AI助理），但对于一些需要大脑思考的问题，目前做的还是不够，我们需要更先进的技术去增强我们思考和解决问题的能力。
毫无疑问，像GPT-4的功能让所有人都看到了，我们不再只停留在拥有原始知识的阶段，而是向第二阶段前进——引导机器执行我们下达的任务，并根据社会价值观进行操作。 所有这些技术都是我们正在研究和开发的。随着技术使用规模的不断扩大，下一阶段的技术和产品测试将在未来几年进行。
主持人： 未来3～10年，AI将影响哪些行业？
布罗克曼： 我觉得这项技术可以应用到法律行业，通过提供法律服务可以带来很多好处。我最喜欢GPT-3的服务是一个名为Augrented的工具，它可以帮收到驱逐通知的租户了解里面合同问题。因为该人群中有很多人不一定有机会聘请律师，这项技术就可以帮助他们做原本无法做到的事情。这就是我们看到的非常有效的使用案例之一。
主持人： 现在市场有一种说法是AI将人类的智力放大了，比如可以用GPT-4去写一本书，你们对此怎么看？
阿尔特曼： 我十分赞同这种说法，这也是我们竭尽所能去推动的发展方向。我看到一条让我印象深刻的推文，有人说他从未想过自己会与像GPT-4这样强大的智能共存。 你会发现，自己已经深入到了AGI领域，事实证明，构建一个真正擅长放大人类意志并让我们变得更强大的AI是完全有可能的。 这会让我们的工作更加高效、更加出色。更重要的是，事实证明人们真的很喜欢它。对我而言，OpenAI最令我欣慰之处就是人们非常喜爱它的产品，并从中获得各种意料之外的好处。
“我们是一个非常追求真理的组织”
主持人： 你们OpenAI的整个团队在研究和开发ChatGPT等AI产品时，有没有遇到让你们惊喜的时刻？
布罗克曼：第一个惊喜要追溯到2017年。当时我们产出了这篇名为《无监督情感神经元》的论文，不过并没有得到太多关注。但这对我们来说，是真正的突破，我们确实需要追求这种范式。 我们训练了一个模型来预测亚马逊评论中的下一个字符，它能够学习名词在哪里，动词在哪里，但更令人意想不到的是，它学会了最先进的情感分析和归类，可以告诉你评论是正面还是负面的。我们从来没有告诉机器这些语言的意义，它是通过执行此任务以某种方式弄清楚了它。机器学习并不完美，我们还有很长的路要走，现在还处于早期阶段，但已经能够开始解决问题了。
让更多人感受到编程的乐趣对我来说是很有意义的。以前从未编程过的人能够进入该领域，而那些本来就优秀的程序员可以完成更多创造性活动，达到这种能力和水平可以加速我们的编码工作流程。
主持人： 你能展开说说怎么加速编码吗？
布罗克曼： 编码过程中，我们花费了大量时间来准确记住哪些库可以执行你在寻找的功能，如何实施它们，以及参数到底是什么。而你想构建一个系统或一个应用程序，这是个高级任务，以前的Copilot（辅助编程工具）只是样板文件，它们只死记硬背。现在模型开始变得更好了，如果你不太了解某种特定的编程语言，或者你不清楚一组特定的库，该模型会很乐意提供这些。而GPT-4的有趣之处在于，它能够指出编码的错误在哪里，这些错误消息有时晦涩难懂，你得四处寻找答案，比如查看各种网站，尝试从其他人所说的内容中拼凑出来，现在GPT-4就可以帮助你解决这些问题。
主持人： 阿尔特曼，你感受到的惊喜是什么？
阿尔特曼： 我引用一段来自Noam Shazeer（Character.AI创始人）的话：“我们没有解释为什么这些架构似乎有效，我们将这些成果归功于上帝的仁慈。”这对我来说是一个反复出现的主题，我认为自己是一个经验主义者，我相信如果某件事有效，你做得更多，它就会变得更好。 刚刚格雷格提到的“无监督情感神经元”是一个非常大的惊喜，现在的GPT-4所做的一些事情开始解释为什么AI应该发挥作用。我完全相信AI，我认为它会走得更远。在我们创办OpenAI之前，观察到AlexNet（卷积神经网络）结果时，我就感觉很神奇。
主持人： 你们在只有几百人的情况下，超越了世界最大的科技公司才能达到的水平，这需要付出很多努力，也还要一些运气。我很想知道，是什么力量推动你们实现这一目标的？OpenAI内部有主要领导者吗？
阿尔特曼：我们做了很多事情，有些是有意为之，有些是幸运。其中一个重要因素是，我们建立了一种文化——真正关注细节，并努力确保细节正确，吸引那些想要以这种方式工作的人进行非常仔细的工程设计和科学研究。另一个原因是我认为我们是一个非常追求真理的组织，找到有效的方法并做更多的事情。
创立OpenAI时，我们与该领域存在的其他人工智能研究不同，他们有不同的激励系统，要考虑的事情也很分散，而我们就做出了高度集中的冒险，做了当时被认为是难以想象的事情。我们将大部分资源投入到这个项目中，虽然有风险，但我们已经仔细研究了它，有信心可以做出成果。
布罗克曼： 我的想法是从“第一原则”出发。在很早的时候，Ilya（OpenAI首席科学家）每天都会和我辩论一个小时左右。比如，我们就应该雇用谁讨论了很久，是要聘请传统的机器学习博士，还是雇用以前从未这样做过的软件工程师，抑或雇用介于这两者之间的人？对每一个决定，我们必须看到它们的后果 ，然后我们会继续学习更新。
我们无法提前知道一切，但可以从实践中学习。就像我们开发的OpenAI-Five并不断扩大其规模，在Dota2的游戏比赛中，完全不落下风。（注：OpenAI-Five，一个可以玩Dota2游戏的人工智能，Dota2是一款拥有大量狂热粉丝的多人在线战斗竞技游戏。2018年，他们全力挑战世界冠军队伍OG战队。）
这是我们第一个真正规模化的系统，随着我们投入更多的算力，系统每周都会变得更好。我们的目标是耗尽现有算法的空间，以便我们可以进行新的算法开发，这就是我们真正想做的。当你试图去追求这个方向时，另一个方向会拉着你向前进，并说这是有效的。对我们面前所看到的做出反应，持续更新、转向、改变，从技术角度来看，这非常重要。
阿尔特曼： 当时我们扩大了OpenAI-Five项目规模，基本上没有人认为这能成功。事实上，你可以向AI系统投入任意数量的计算来达到所需的智力水平，并且这涵盖了令人难以置信的计算范围和智能程度，这就像一个惊人的科学发现。
布罗克曼： 我们还研究了算法的进步，将最好的系统和最好的算法组合在一起，GPT-4等系统就诞生了。当我们思考这个问题时，就意识到如果将GPU的所有信息都输入到新算法的供应链中，甚至是上传到大规模数据处理系统中，那么这是个大工程，任何一家公司都没办法单独办到。从某种程度上来说，这实际上是一个全人类的项目，需要很多公司参与进来。
“AI对每个人来说都是生产力工具”
主持人： 阿尔特曼，有人在推特上给你发了一条推文：“你接下来要说的是我们应该监管人工智能。”你回答：“是的，我们应该监管人工智能。”所以你如何看待很多人都说“你们行动太快了”的观点，在监管、全球治理或吸纳人才方面你们还有什么看法？
阿尔特曼： 我理解大家的焦虑和恐惧，人们对于现在科技变化的速度感到害怕。我们也赞同谨慎行事，要加强对人工智能的监管，但是暂停研究是没有意义的。
我们真正需要做的是弄清楚什么样的监管方法、规则和安全标准能在混乱的现实背景下真正发挥作用。应该保持世界变化的速度相对稳定，而不是秘密构建AGI，然后在某个时刻立即公开它。 机构不会在一夜之间变得很好，他们应该是逐渐成为科技发展的一部分，为科学研究提供关键反馈，告诉我们什么时候犯了愚蠢的错误，找到有巨大好处和潜在危害的领域，在风险低于预期时犯错误并吸取教训。
布罗克曼： 我们确实在努力解决这个问题。我们创办OpenAI时，真正考虑的是如何开发安全的AGI，这决定是否造福于全人类。这里存在两个问题，一个是技术安全问题，另一个是社会安全问题，要确保人工智能技术被引导安全地使用。
我比较了解技术，所以我会专注于解决第一个问题。过去四五年我们已经开始部署，当GPT-3出现问题时，我们会按照GPT-3的分布方式进行修补，使用过滤器和非模型级别的干预措施。现在我们的技术逐渐成熟，实际上能够进行模型级别的干预，GPT-4能够以自动化的方式理解模型中的结果，因此在安全过滤方面做得非常出色。
主持人： 人工智能的批评之一是能源的使用。阿尔特曼你认为未来不仅会有无限的智能，而且会有无限的能源，你在Helion Energy（一家清洁能源公司）上进行了大量投资，能谈谈你投资它的原因以及你所期待的结果吗？
阿尔特曼： 我不认为AI的未来会有无限的智能或者能源，我认为应该是不断下降的价格和不断增加的丰富产品，我们是不可能达到无限这个程度的。我觉得这些对人工智能系统的能源批评是一种低俗批评。我认为丰富清洁的能源不仅能解决气候危机，还能带来其他方面的好处，投资能源是比投资我能想到的任何其他单一投入更重要的一件事。为从根本上改变能源获取成本提供资金，是一件伟大的事情。 Helion正在努力做到这一点，我希望明年能听到好消息。
主持人： 布罗克曼我们了解到你正在投资一些医疗保健、药物开发等领域的公司，你是怎么想的？
布罗克曼： OpenAI内部有一个基金，专门投资一些技术初创公司，像Ambience Healthcare（医疗领域的人工智能公司）这样的初创公司实际上正在尝试将AI应用到实际医疗活动中。甚至微软也开始通过Nuance（人工智能软件公司）来完成它在医疗保健行业的AI战略。如果你考虑一下医生所面临的一系列问题，你会发现其中很多都是行政问题。我的父母都是医生，我听说过所有关于他们如何被迫用iPad与病人交谈的故事。我们将进入这样一个世界，查看Nuance即时转录的医生信息，并在事后获取医生笔记，这样就减少了医生在面对患者家属的解释精力，医生也能够真正专注于患者的护理。
我们已经从推特上看到人们使用ChatGPT看病的好处了。还有人通过ChatGPT救了他狗狗的命，报道说他去看了兽医，兽医并没有及时做出治疗，网友焦急地将医疗记录上传到ChatGPT上。然而，ChatGPT非常肯定地说“我不是兽医，你需要和兽医谈谈”。不过也给他了一些建议和解释，让他有信心去找第二位兽医。我认为这是一个非常有趣的例子，因为他确实指出了我们希望人工智能如何介入的问题。人类在医学领域对医生是非常依赖的，但人类也会犯错误，第一个医生做出了一个错误的决定，可能会产生致命的后果。因此要弄清楚如何让合适的人进行正确的监督。
主持人： 你们正在通过OpenAI投资使用你们平台的公司，这会带来改变吗？是否有其他公司将使用你们的API（应用程序的调用接口）？很想知道使用AI让所有行业变得更好的最佳方式是什么？
阿尔特曼： 我们现在看到，人们在各地调用OpenAI的API，并且随着模型变得越来越智能，可以不断提升产品和服务的能力，所以我们可以充满信心地回答这个问题，这种情况将会继续下去。
主持人： 你们认为使用人工智能或现代人工智能技术将给3~10年内的科学研究带来什么助力？
布罗克曼： 华裔数学天才陶哲轩最近说GPT-4加快了他的速度。陶哲轩是一位著名的数学家，他说用GPT-4来帮助他撰写项目申报中的资金申领，可以带来极大的帮助，解决一些单调乏味的工作。其实人们每天都会在一些单调重复的工作中花费大量的时间和精力。世界上最聪明的人正在花费他们大量的时间从事这项不太有创造性的工作，那真是太浪费了。AI可以帮助他们解决这些不太重要的繁琐工作，让人们有精力去做真正有价值的事情，他们也能取得更多成就。
阿尔特曼： 是的，我觉得AI对每个人来说都是生产力工具，将使我们最好的科学家变得更好，促进科学研究的进步。 最终，这些系统可以帮助我们储存比人类大脑更丰富的知识，并发现新的联系、新的想法等。