2024年11月，谷歌旗下人工智能公司Deepmind发布《科学发现的新黄金时代：抓住人工智能辅助科学的机遇》（A New Golden Age of Discovery: Seizing the AI for Science Opportunity）报告，探讨了人工智能在科学研究中的应用机遇、要素、风险挑战及政策议程。报告指出，人工智能的应用不仅能够加速科学发现，还能推动社会进步，但同时也面临诸多挑战，如对科学创造力、可靠性和理解的潜在影响等。报告建议，政策制定者应通过定义人工智能在科学中的关键问题、优化数据管理、加强人工智能教育和推动新型科学组织等方式，迎接人工智能赋能科学的黄金时代。
一、人工智能应用于科学研究的五大机遇
（一）科学知识的管理与传播
为了取得新发现，科学家需要掌握一个不断扩展且日益专业化的知识体系，这解释了为何作出变革性发现的科学家多数是年长、跨学科的，并集中在顶尖大学。在以前，多数科学家们通过晦涩难懂、充满专业术语的论文分享研究成果，这可能降低决策者、企业和公众对其工作的兴趣。如今，科学家们已经开始使用基于大语言模型的科学助手，例如通过Gemini大语言模型可在一天内从20万篇论文中提取并筛选最相关的数据。未来，随着大语言模型的微调和改进，科学家们将能够更高效地整合和传播知识。
（二）科学数据的收集、标注与生成
人工智能可以提升现有数据收集的准确性，例如，它可以减少DNA测序、检测样本中的细胞类型或捕捉动物声音时产生的噪音和错误。科学家还可以利用大语言模型的能力，提取科学出版物、档案以及教学视频等资源中隐藏的非结构化科学数据，并将其转换为结构化数据集。人工智能还可以为科学数据添加标注，提供科学家使用数据所需的支持信息。此外，经验证的人工智能模型还能生成新的合成科学数据，通过对其他数据的补充，为科学数据发展提供有力支持。
（三）科学实验的模拟和优化
许多科学实验成本高昂、过程复杂且进展缓慢。人工智能可以帮助模拟和优化实验。以人类DNA中的错义变异为例，Deepmind的AlphaMissense模型可将7100万个潜在变异中的89%分类为无害或有害，帮助科学家聚焦于高风险变异来进行实验，从而提高研究效率。人工智能模拟实验并非替代物理实验，而是为其提供指导和优化，推动科学研究的高效发展。
（四）复杂系统的建模和仿真
传统数学模型在描述生物、经济、气象等复杂系统时面临维度灾难、混沌特性和突发行为等根本性挑战，人工智能的出现则为解决这一难题带来新曙光。以天气预报为例，传统数值方法虽有用但存在局限性，而深度学习系统在2023年实现了更准确、快速的10天气候预测，甚至助力应对气候变化。人工智能与基于智能体的建模相结合，通过生成智能体和强化学习，模拟经济系统中个体行为的动态变化，为复杂系统提供更灵活、精准的模拟方式。未来，人工智能将在丰富拓展传统方法的基础上推动复杂系统研究的突破。
（五）科学问题的解决方案
在科学研究中，许多领域仍有许多潜在待探索的解决方案，例如设计小分子药物或蛋白质结构时，传统方法难以有效探索这些解决方案，而人工智能可以更快地锁定最可行的解决方案。例如，DeepMind的AlphaProof和AlphaGeometry 2系统在国际数学奥林匹克竞赛中成功解决了数学问题，展现了强大的推理能力。这些系统基于Gemini 大语言模型架构，通过生成大量新想法并结合数学逻辑逐步筛选，高效锁定可行的解决方案。人工智能为分子设计、数学证明等复杂问题开辟了新的探索路径，显著提升了研究效率，为科学研究带来了前所未有的机遇。
二、人工智能助力科学研究的九大要素
（一）问题选择
科学进展依赖于能够识别一个重要问题并提出解决它的正确思路。许多时候，一个问题在理论上适合人工智能，但由于实际条件尚未到位，因此需要暂时搁置。除了选择正确的问题，明确其合适的难度层次也很重要。如果选择一个过于困难的问题，就无法产生足够的反馈或数据来推动进展。要做到这一点，需要结合直觉判断和不断尝试的实践过程。
（二）评估
科学家们通过基准测试、指标和竞赛等评估方法来衡量人工智能模型的科学能力。如果这些评估方法运用得当，可以用于跟踪进展、激励方法创新，并激发研究人员对科学问题的兴趣。通常情况下，需要多种评估方法来综合衡量模型的表现。最具影响力的“人工智能驱动的科学研究”评估方法通常是由社区主导或认可的。例如，“蛋白质结构预测关键评估”（CASP）竞赛。该竞赛不仅成为了一个独特的全球科研社区，也成为了推动研究进步的催化剂。社区认可的需求也支持了发布基准测试的必要性，以便研究人员能够使用、评估和改进这些测试。此外，科学家、人工智能实验室和政策制定者还应探索评估人工智能模型科学能力的新方式，比如建立新的第三方评估机构、举办竞赛，以及让科学家更自由地对人工智能模型能力进行开放性探索。
（三）算力
多项政府审查已认识到算力资源在推动人工智能、科学及更广泛经济领域发展的重要性。人工智能实验室和政策制定者应采取务实的、长期的视角，考虑人工智能模型和具体应用场景的不同算力需求，以及与不依赖人工智能的科学进步方法相比的效益。此外，人工智能实验室和政策制定者需要通过实证手段跟踪算力资源的使用情况，了解其演变趋势，并预测这些趋势对未来需求的影响。
（四）数据
数据与算力一样，是人工智能科学研究的关键基础，需要持续开发和更新。自上而下的数据项目（如美国奥巴马政府发起的材料基因组计划）为科学研究提供了重要基础，但许多突破性进展依赖于个人或小团队生成的数据。例如，gnomAD遗传变异数据集和Lean编程语言的成功，展示了个体努力的价值。然而，数据管理存在诸多问题：部分数据因缺乏资金和标准而被丢弃或未被充分利用；数据许可限制和不一致的存储标准也阻碍了人工智能的应用。因此，需要结合自上而下的规划和激励机制，鼓励个人参与数据管理各阶段工作，确保数据的高质量、可访问性和可持续性。
（五）组织设计
学术界和工业界在科研方向上分别呈现自下而上和自上而下的特点。近年来，新的科研机构不断涌现，它们在目标、资金模式和研究方向上各具特色，但共同追求高风险、高回报的研究。这些机构聚焦于应用人工智能或解决特定科学问题，试图在自上而下的协调和自下而上的科学家赋权之间找到平衡，例如，一些机构通过设定里程碑聚焦特定问题，而另一些则给予研究者更多自由资金，这种平衡对吸引和留住研究带头人至关重要。
（六）跨学科合作
许多复杂科学问题需要跨学科合作，但研究人员在多学科团队中往往难以突破学科壁垒。为了培养这种合作，研究团队应为其研究人员创造融合学科的角色和职业路径。此外，还需鼓励研究人员定期更换项目，促进思想交流，并营造好奇心、谦逊和包容的文化，以推动不同背景的研究人员能够在公开讨论中评价彼此的工作。
（七）可信使用
为了让科学家信任并使用人工智能科学模型，必须明确其使用方式和潜在的安全风险。因此，开发人员在发布模型时需平衡科学推广、商业目标和安全风险。为此，Deepmind创建了一个“影响力加速器”计划以推动突破性应用。以AlphaFold 2为例，为促进科学家使用，Deepmind开源了代码并与欧洲生物信息研究所合作开发数据库，方便科学家获取蛋白质结构。AlphaFold 3进一步扩展了模型的能力，催生了AlphaFold Server等新工具，满足多样化需求，同时强调培养科学界计算技能的重要性。
（八）公私合作
人工智能驱动的科学研究工作需要公私合作，以整合多样化专业知识。合作需要贯穿项目全周期，从数据集创建到成果共享，尤其在人工智能模型评估中，科学家的专业知识不可或缺。例如，材料科学家对人工智能预测的新材料进行评估，蛋白质设计团队与研究机构合作验证人工智能设计蛋白的功能。然而，建立合作关系面临挑战，如目标对齐、成果权利、开源与许可等问题。此外，成功的合作还需明确价值交换规则，发挥各方优势。
（九）安全与责任
科学家对人工智能模型的潜在益处和风险存在分歧，伦理和安全评估有助于讨论并指导人工智能模型的开发。评估的起点是识别关键影响领域，同时还需对其可能影响的时间范围以及人工智能在实现这些影响中的重要程度进行评估。目前，许多人工智能的安全评估主要依赖于明确指出模型不应输出的内容类型，这些安全评估对由人工智能在科学研究中引发的风险（如生成不准确内容）是有用的。但对于其他风险（如生物安全风险），我们能否提前认定“某些科学知识是危险的”这一想法已经受到了质疑。事实上，科学知识具有“两面性”，它既可用于有益的方面，也可被用于有害的方面。未来应评估人工智能模型的危险程度及其危害人类的能力，并结合威胁行为者分析和访问管理来判断风险程度。
三、人工智能在科学研究中面临的五大风险挑战
（一）创造力的同质化
科学创造力指的是创造既新颖又有用的东西。目前，一些科学家担心，人工智能系统往往专注于特定任务，依赖它们可能会忽视偶然的突破。还有人担心，如果科学家普遍使用人工智能，可能导致研究输出趋于同质化。为缓解上述这些风险，科学家可以通过个性化调整人工智能的使用方式，促进自己的创造力。例如，通过微调大语言模型来提出个性化的研究思路，或帮助科学家引导出自己的创意。
（二）科学研究的可靠性下降
科学研究的可靠性是指科学家能依赖彼此的研究结果，并确保这些结果并非偶然或错误的。目前，科学研究的可靠性面临一系列挑战，如统计错误和科学欺诈问题。一些科学家担心人工智能会加剧这些问题，尤其是大语言模型可能产生虚假或误导性输出。还有人担心大语言模型会产生大量低质量论文。为应对这些问题，科研界正在推动人工智能在事实核查方面的研究，旨在通过验证模型输出的准确性，确保其生成的内容更加可靠。
（三）理解深度受限
科学家担心，人工智能依赖模式匹配而忽视深入理解，这可能会削弱科学进步。事实上，人工智能在数据集构建和评估中融入了先验知识，一些模型还具备可解释性输出，例如FunSearch方法不仅输出代码，还解释其解决方案的形成过程。人工智能还能通过开辟新的研究方向促进科学理解，例如，AlphaFold通过生成大量合成蛋白质结构，帮助科学家发现Cas13蛋白家族的新成员，挑战了之前的进化假设。尽管准确性与可解释性之间可能存在权衡，但人工智能的不透明性可能源于其在高维空间的运行能力，这种能力虽难以解释，却可能是实现科学突破的关键。
（四）社会公平失衡
科学研究领域存在显著的不公平现象，包括研究资源、数据和成果的分布不均等。例如，高收入地区少数实验室主导科学成果，热带疾病和低收入国家的农业问题常常被忽视，女性和少数族裔科学家代表性不足等。一些科学家担心，人工智能在科学领域的应用日益增多，可能会加剧这些不平等现象。然而，人工智能也为改善公平性提供了机会。通过低成本工具和更广泛的数据接入，人工智能可以帮助研究被忽视的问题。例如，基于更大、更多样化的数据集训练的人工智能模型在预测疾病风险时表现出更好的准确性和公平性。
（五）环境影响争议
近年来，越来越多的科学家对人工智能可能对环境产生的影响表示担忧。主要关注点集中在大语言模型训练和使用过程中的温室气体排放以及冷却数据中心所需的水资源。生命周期评估方法可用于分析这些直接和间接影响。目前，数据中心和人工智能模型的直接排放仅占全球排放量的0.1-0.2%，但随着大语言模型规模扩大，排放可能增加。然而，通过微调和提高效率，未来大语言模型的能耗有望降低。在某些情况下，人工智能模型的排放量甚至低于传统方法，例如AlphaFold 2的训练能耗与实验确定少量蛋白质结构的能耗相当。
四、人工智能驱动的科学时代下的政策议程
（一）为科学中的人工智能定义“希尔伯特问题”
1900年，德国数学家大卫·希尔伯特提出的23个数学问题深刻影响了20世纪数学的发展。如今，为推动人工智能科学进步，国际社会呼吁科学家和技术人员提出关键的人工智能科学问题，并由全球基金支持解决。这些问题需明确其重要性、数据瓶颈及评估方法等方面。通过新数据集、评估方法和竞赛基准，顶尖想法可成为科学竞赛的基础，如人工智能科学奥林匹克竞赛，吸引全球青年人才。该倡议不仅直接推动技术发展，还能协调国际科学合作与投资，激励跨学科科学家共同探索人工智能的未来。
（二）建立“人工智能科学数据观测站”网络
当前多数科学数据存在未收集、不完整等问题，难以用于人工智能模型训练。为此，政策制定者可以建立一个国际性的“人工智能科学数据观测站”网络，以解决这些问题。观测站要开展“数据盘点”，绘制数据状况图，明确数据集优先级，确定新数据库创建范围等。政策制定者还应借鉴相关国家经验，推动公共资助研究成果的开放，与产业界等共同资助数据集计划，以解决数据问题，推动人工智能在科学领域更好应用。
（三）将人工智能融入科学教学
随着科学技术的发展，科学家与技术的距离却在拉大。为解决这一问题，需为现有科学家提供资金支持，鼓励他们参与短期、战术性的人工智能培训计划和奖学金。政策制定者应设定目标，让每个理科研究生都能获得人工智能入门课程。培训内容需根据学科和情况定制，从基础的大语言模型使用到高级的模型微调，再到应对数据泄露等复杂挑战。同时，政策制定者需制定长期计划，将人工智能培训纳入各级科学教育环节，如让中学生了解人工智能的影响，大学生获得跨学科人工智能学位。设立专门奖学金如英国“BIG奖学金”，为培养下一代科学家提供支持。
（四）收集证据并尝试新的科学组织方式
科学家使用人工智能的速度正在迅速增长，但政策制定者对谁在最有效地使用它、如何使用以及有哪些障碍正在阻碍其他人的使用等情况，知之甚少。目前，Deepmind正在通过引文数据分析、访谈和社区互动，了解科学家如何使用Deepmind的模型。这一证据基础将为政策制定者提供决策依据，帮助他们预测人工智能如何改变科学与社会，以及如何优化科学激励机制设计。此外，人工智能的崛起为新型科研机构的试验提供了机遇，从高风险高回报的研究机构到解决特定瓶颈问题的重点组织，甚至全新的跨学科机构。谁能更快地进行实验，谁就能在科学发现的黄金时代获益最多。
文章来源于启元洞见 ，作者启元洞见；图片来源网络 侵删
回顶部