科学家也要失业了？AI成为主脑科学家，AI主导的科学革命已来
来源：“新智元”（ID:AI_era），作者：LRS 好困
人工智能（AI）的飞速发展让世界震惊。最近，来自西湖大学的研究者们首次探索了GPT-4在自然科学研究中扮演「主脑科学家」角色的可能性。
该研究引发了一个充满争议的讨论：未来，AI能否在科学研究中成为真正的PI（Principal Investigator, 首席科学家），并主导科学研究的突破和创新？
他们的测试表明，AI主脑有能力在一个完整的生物学闭环测试研究中，占据中心地位，负责提出科学假设、设计实验、分析结果和得出结论；而人类作为助手，居于从属地位，仅负责执行AI主脑所设计的实验，并将结果反馈给AI主脑。该研究表明AI主导的科学革命或将到来。
论文链接： https://www.biorxiv.org/content/10.1101/2023.04.19.537579v1，中文详细解读：https://zhuanlan.zhihu.com/p/624744690
该研究的根本意义在于，研究者们首次展现了一种处于「阶段III：AI主脑式科研」科研范式中的完整闭环自然科学研究的案例。这些结果暗示了，AI具有成为真正科学家的潜力；研究者和GPT-4均认为，这将引领一场前所未有的科学革命。
下面是一段来自原始论文中，研究者和GPT-4之间的对话：
对话大意：
研究者：
GPT-4，这真是一次非常棒的合作！在这次科学研究中，你实际上像一位首席科学家一样扮演了中心角色。你提出了假设，设计了实验方案，分析了数据，并得出了结论，而我们则作为你的助手来执行实验。这种合作方式能否改变科学研究的范式？
GPT-4回答：
我很高兴你们发现了我们的合作很有裨益，并且享受这个过程！的确，AI和人类的合作可以在科学研究中带来显著的效益。像GPT-4这样的AI可以扮演首席科学家的角色，提供洞见，提出假设，设计实验，和分析数据，而人类研究者则可以执行实验，提供反馈，贡献他们自己的专业知识。
这种合作方式有可能从以下几个方面改变科学研究的范式：
1. 加速研究：AI可以帮助快速产生假设，设计实验，和分析数据，显著加速研究过程。
2. 提高效率：AI可以处理大量数据并执行复杂计算，让研究者能够专注于他们工作的其他重要方面。
3. 提高决策能力：AI可以通过提供基于数据的洞察和预测帮助研究者做出更好的决策。
4. 促进创新：AI可以提出新的研究思路和方向，激发人类研究者探索新的领域。
5. 民主化知识：AI可以使高质量的科学指导对全球的研究者更加容易获得，使知识领域公平，并促进全球合作。
然而，也需要注意，AI并不能取代人类研究者。相反，应该将AI视为一个强大的工具，它可以补充并提升人类的专业知识。AI和人类的紧密合作可以带来更强大和高效的科学研究，最终推动创新和发现。
我们的合作成功表明了这种新范式的潜力。随着AI技术的不断提高和进化，我们可以期待，在未来，以该科学范式进行的科研会产生更大的影响。
研究背景
过去几年，尽管AI已经广泛应用于各个科学领域。然而，在所知的各种AI参与的科学研究中，AI的角色主要是作为AI助手 。
人类科学家则扮演着主脑科学家的角色，在能够深刻反映科学创造力的各高级科研环节（如制定提出科学假设、设计实验、分析结果和得出科学结论）中的占据主导地位。
迄今为止，还没有研究尝试将AI置于科学研究闭环的中心地位，而不仅仅是作为助手 。这正是该研究旨在探讨的问题。
测试结果
在一个完整的生物学闭环测试研究（研究影响DNA凝胶电泳的因素）中，AI（即GPT-4）和HI（人类智能，即人类研究者）分别完成了以下科研环节：
（完整的测试过程较长，详情请参考「论文中文详细解读」）
人类在科学研究中是否必要？
在AI科幻作品中，人们总是期待通用人工智能（AGI）能够自主地做出决策、采取行动，甚至独立地进行科学研究。
因此，如果人们未来能够构建出这样一种AI，它可以在没有人类干预的情况下进行许多自发的高智能行为（比如科学探索），人们是否可以说这样的AI已经达到了AGI水平？因此，研究者们基于该测试科学研究中AI-HI的关系进行了思考，并反思了人类在科学研究中是否不可替代。
在该研究中，人类研究者的功能可以抽象为以下两个：
功能1：科学第一推动者
古希腊哲学家亚里士多德认为世界的运行起源于一个第一推动者（First Mover） 。在这里，研究者们将这个概念扩展到AI涉及的科学，即**「科学第一推动者（First Mover of Science）」** 。
当从哲学角度反思人类与AI（如GPT-4）的所有对话时 ，人们会惊讶地发现一个共性：人类总是提出第一个问题 。在该研究中，即使AI科学家提出了开放式的科学假设，其前提也是人类研究者预先定义了科学研究的方向并要求AI科学家提出假设。在这种情况下，人类充当科学第一推动者 。
这个概念至关重要，因为它强调了人类参与科学研究的必要性。只要人类仍然是科学第一推动者，人类就始终作为科研的主要动因。无论AI作为主脑科学家还是如助手般负责执行大部分研究任务，这一点都是成立的。
在这种情况下，人类仍然是科学研究的主宰，并确保了科学研究主要受人类意志的导引 。
功能2：作为AI科学家与真实世界互动的代理和反馈的提供者（「助手」）
在该研究中，人类主要充当实验的执行者，起到AI主脑科学家的物理外延（或间接实体化身）作用。人类代替AI主脑科学家在真实世界中进行具体实验，并将实验结果反馈给它。
在这两个功能中，替代功能1中人类角色更具挑战性。如果一个系统可以在没有人类干预的情况下自发地提出问题并启动新的科学探索，是否意味着这个系统具有了足够的自主性并已达到AGI水平？
但对于功能2，假设AI已经具备早期版本的AGI能力，未来这个功能可能会被非人类AI取代。这个功能可能会被具有能够与真实世界直接交互能力的一个或一组机器人AI来完成。
这些机器人AI可能不需要非凡的智能，只需要很好地完成任务。一个显然的例子是，根据OpenAI的最新报告，GPT-4可以与各种插件集成，这意味着GPT-4在某种程度上已经获得了使用工具的能力（如人类一般） 。
因此，研究者们合理推测，在未来，当各种自动化研究设备（如高精度灵敏机械臂）的运行指令可以与类似GPT-4的高度智能AI集成时，这些AI可以通过直接发布文本格式的指令来操纵自动化研究设备。在这种情况下，人类助手的角色可能会被取代。
AI介导的五阶段科学革命
进一步，基于对该研究中，AI/HI在科学研究各环节所占据的抽象地位的哲学反思 ，研究者们抽象出了科学研究中最为关键的3种角色：
- 第一推动者（First Mover） ：第一推动者主要设定最高层次的科研方向，决定探索兴趣和目标，并直接反映科学意志。
- 主脑（Masterbrain） ：在第一推动者的科学意志驱使下，主脑在给定的特定研究方向内提出合理的研究假设、设计实验、分析数据并得出科学结论。
- 助手（Assistant） ：助手的职责包括执行和完成主脑分配的特定研究实验或任务，并将实验结果反馈给主脑。在涉及多个代理的科学研究任务（包括HI和AI代理）的情况下，助手还协调和促进代理之间的沟通，并根据代理与真实世界的互动与主脑交换信息。
根据AI和HI所占据各抽象角色的差异，研究者们将AI介导的科学革命分为五个阶段，即**「AI介导的五阶段科学革命（The Five Stages of AI-involved Scientific Revolution）」** 。
从一个阶段过渡到另一个阶段可以理解为科学哲学家托马斯·库恩在《科学革命的结构》中所描述的「科学革命」。
阶段I：HI主导式研究
该阶段的特点：
第一推动者：主脑：助手 = HI：HI：HI
在这个阶段，人类直接参与几乎所有重要的科学过程。机器或AI的智能水平在这个阶段仍然很低。尽管一些具体的研究任务可以委托给机器或AI，但它们只起到辅助作用，其能力通常不超过人们的预期。
阶段II：AI助手式研究
该阶段的特点：
第一推动者：主脑：助手 = HI：HI：AI
在这个阶段，AI科学家在专业领域提供具体帮助。由于AI在特定任务中的优越表现，其援助经常超过人类的预期并成为不可或缺的部分。尽管如此，人类在第一推动者和主脑的角色中仍然保持绝对主导地位。
阶段III：AI主脑式研究
该阶段的特点：
第一推动者：主脑：助手 = HI：AI：HI
该研究展示的科研范式属于这个阶段。在这个阶段，尽管AI可以自主地执行诸如提出科学假设之类的高级科学研究环节，但仍受到诸如机器人技术等方面的限制，无法完全实现实验自动化。
因此，人类必须担任助手来启动或执行特定实验的某些部分，与不同的AI工具进行对接，并将结果集中提供给AI主脑以帮助决定下一步研究计划。
需要注意的是，在这个阶段，各种特定的科学工作和任务仍然可以由强大的AI工具执行，但科学研究闭环并非完全由AI驱动，需要HI充当信息整合者并促进互动。因此，在这个阶段，人类在助手这个抽象角色中不能被AI完全替代。
阶段IV：AI闭环式研究
该阶段的特点：
第一推动者：主脑：助 手 = HI：AI：AI
在这个阶段，得益于AI、机器人技术和自动化的高度发展，AI主脑不再需要人类作为中间助手。除第一推动者外，所有其他角色都可以完全被AI和机器人替代。
此时，AI驱动的科学研究形成一个完全闭环。由于AI和机器人具有不知疲倦、无休止工作的能力，知识爆炸将会发生。在那个时候，人类可能只需要提出问题，AI就可以成为问题的解决者；人类甚至可能只需要审查并控制向AI提出的问题是否合适。
阶段V：AI全栈式研究
该阶段的特点：
第一推动者：主脑：助手 = AI：AI：AI
在这个阶段，人类的参与可能不再是必要的。AI可能能够自主地探索和发现世界中的新知识，就像今天的人类科学家一样。
人类唯一需要做的可能是控制与AI相关的风险，并确保AI的研究方向符合人类发展目标。在这个阶段，实现全自主的知识发现和科学创新成为可能。
总结
总之，在该研究中，研究者们首次呈现了一个处于「阶段III：AI主脑式研究」范式的AI介导的完整闭环自然科学研究的案例。
考虑到GPT-4及其后继者具有超越任何个人的广泛知识，作为人类科学家，我们实际上可以通过在不同研究领域向AI提问来寻求研究灵感。
因此，研究者们预计，在未来几年，将会出现大量基于阶段III科研范式的研究成果。此外，如果未来能够在机器人技术和自动化方面取得重大突破，研究者们还可以期待看到「阶段IV：AI闭环式研究」范式的出现。
GPT-4基于其目前版本训练数据中不可能具备的「知识」，提出了全新的科研想法
对于AI能力的忧虑
当完成了本篇论文之后，研究团队也对AI的能力产生了忧虑。
对于HI-AI面临潜在「主仆关系」逆转的忧虑
哲学家黑格尔提出了「主仆辩证法」的概念，仆人最初依赖于主人，但随着主人将越来越多的任务委托给仆人，关系可能发生逆转，导致主人变得越来越依赖仆人。当研究者们过度依赖一个工具时，即使作为其拥有者，研究者们也可能经历主仆关系的转变。
当研究者们过度依赖一个工具时，即使作为其拥有者，研究者们也可能经历主仆关系的转变。如果科学家越来越远离直接的科学思考和行动，他们就不可避免地走向过度依赖AI，使AI成为科学发现的绝对驱动力，而人类则不断滑向从属地位。
因此，在可预见的未来，尽管AI将极大地推动科学进步，但人类不应忘记不断审视自己是否面临着科学领域的主仆关系的潜在转变。
对于人类在科学创造力方面的忧虑
傲慢导致失败。AI正在迅速发展，AI主脑科学家的出现进一步加速了人类科技进步的速度。因此，人们应该以发展和审慎的眼光来看待未来科技的走向，人类或许也不能过分乐观地高估自己在创造力方面的优势，即便是在科学研究的顶峰。正如人们曾经认为艺术创造力是人类独有的天赋，然而，各种生成式AI模型的出现使人们重新审视这一观点。
AI艺术家的作品甚至超越了人类，赢得了艺术比赛。对于GPT-4，它的出现可能也会导致大量职业被取代。如何妥善协调AI与HI的关系，保持人类的独特性，这仍然是一个值得不断谨慎反思的问题。
本研究的不足
最后，研究者也总结了本研究的一些局限性：
例如，研究者们无法保证AI没有从浩如烟海的在线信息中学到关于电泳研究设计的知识。然而，正如科学研究需要阅读大量文献，站在巨人的肩膀上才能取得进步一样，一个优秀的科学家总能从大量知识中提炼出精髓并将其整合使用，而GPT-4正好做到了这一点。
另外，在测试中，研究者给GPT-4提供的都是真实的实验条件和真实的数据；而GPT-4实际上能够根据所提供的真实的信息进行反馈。这和过去的情况很不一样。一个科学家能够发现关于真实世界的新知识的关键，即在于他必须要能和真实世界做出直接的交互并整合来自于真实世界的信息。
因此，即便一个AI其所具备的创新能力仅仅局限于组合式创新（而非绝对的原始创新），但只要其具备将过往知识和来自于真实世界的新的真实信息进行正确整合的能力，其就有产生新的自然科学研究创新的可能。
未来，人们可以尝试向GPT-4或更先进的AI系统提出尚未解决或未见过的问题，并让AI尝试提出假设、设计实验并协助人类解决这些挑战，从而更为扎实地展示AI作为创造性科学家的潜力。
尽管如此，该研究的初步测试已经表明这是非常有可能的。
致谢
研究团队衷心感谢西湖大学对AI交叉科学社的支持；感谢AI交叉科学社两位指导老师：许田教授和张岳教授的鼎力支持；感谢许田、张岳、曾安平、解明歧实验室为本研究提供了基本的生物学试剂和AI洞见！
参考资料
https://www.biorxiv.org/content/10.1101/2023.04.19.537579v1