院士张钹：大模型应用呈现“U”形，中国有机会做AI时代引领者

 

8月1日，中国科学院院士、清华大学人工智能研究院名誉院长张钹在ISC.AI 2024第十二届互联网安全大会的演讲上表示，当前人工智能还没有理论，只能发展出来针对的模型和算法，它们都是针对特定领域的，软件或硬件也都是专用的，市场很小，因此到现在为止还没有发展出一个大型的人工智能产业，问题就出在这里。

 

而在7月19日清华五道口“金融PLUS系列产业峰会2024”上，他以“第三代人工智能与具身智能”为题在演讲中表示，在信息科技时代，中国的使命是追赶，而在人工智能时代，中国有机会做引领者。

 

张钹现年89岁高龄，过去几十年，他在清华大学培养了一批人工智能人才，是中国人工智能学科的奠基人之一。当前不少火热的“清华系”大模型企业如生数科技、智谱AI、面壁智能、Kimi等，均受益于在清华打下的技术基础，核心技术人才或直接或间接师承于张钹。

 

三大能力与一大缺陷

 

大模型应用呈现“U”字形，对错误容忍度要高

 

在张钹看来，因为理论的限制，人工智能产业的前一阶段必须要结合具体的应用领域来发展，因此这一阶段发展出的人工智能属于专用人工智能，即“弱”人工智能。不过，他也指出，目前基础模型在语言问题上做到了通用，“我们考虑基础模型的时候需要考虑三大能力与一大缺陷，这点是非常重要，是我们考虑今后产业发展的出发点。”

 

他解释称，大语言模型的强大之处体现在强大的语言生成能力、强大的人机自然交互能力和强大的举一反三能力，“大语言模型的语言生成属于开放领域，能够生成多样化的结果，所有输出人类都可以理解，即便是‘胡说八道’我们也可以理解在胡说什么，这一点非常重要。人类跟机器在开放领域进行自然语言对话，我们之前以为要通过几代人的努力才能达到这个目标，但大家没想到的是2020年这个目标已经达到了。”从人工智能三要素走向四要素之路，院士张钹清华演讲全文

 

张钹表示，大模型的缺陷就是“幻觉”，“因为我们要求它有多样性的输出，必然它会产生错误。这个错误跟机器都会产生错误非常不一样，机器产生的错误往往是我们可以控制的，这个错误是本身的错误，是一定会发生的，而且我们不可控，所以，这点也是我们后面考虑它应用需要考虑的问题。”

 

张钹重点分析了幻觉出现的根本原因，他认为模型的根本限制在于目前所有的机器所做的工作都是外部驱动，人类教它怎么做，而不是自己主动做。同时，它生成的结果受提示词的影响非常大，与人类是在内部意图的控制下完成工作有明显的区别。

 

结合三大能力与一大缺陷，张钹总结出了大模型当前适合应用的场景：对错误的容忍程度要高。他表示从产业情况来看，大模型的应用呈现“U”字形——前部的规划、设计要求内容多样性，后部的服务、推荐也要求多样性，同时对错误的容忍程度较高，但中间部分就需要根据情况来考虑使用。

 

尽管存在问题，张钹还是表示不论怎样“模型是一定要用的”，“因为有了模型底座以后，应用的效率和质量一定会提高。过去的应用场景我们是在空的计算机上开发软件提供服务，空的计算机相当于文盲，而现在有了大模型，平台至少是个高中生，开发效率一定会提高，以后的方向一定是这样。”

 

大模型有四大发展方向

如何发展通用人工智能，将来不止限于人形机器人

 

张钹介绍，未来大模型有四个发展方向，对如何改进大模型非常重要。

 

其一是与人类对齐，“大模型没有判断对错的能力，自己不能自我更新，都是人类驱动下去更新的，不突破这一点，机器就不能自我进化。大模型需要外部的提示，所以在人类的驱动下改正大模型的错误是我们做的第一件工作。”

 

其二是多模态生成，“多模态生成将来对产业的发展非常重要，因为大家看到大模型主要是生成文本，但是我们用同样的办法生成图像、声音、视频、代码之后，生成的水平是跟人类的水平接近的。我们现在为什么图像能生成的那么好，主要是把图像跟文本挂钩。所以，最本质的是文本处理的突破。”

 

其三是AI Agent（智能体）的概念，“要把大模型和周围的虚拟环境结合起来，让环境提示它的错误，因为一件事做了之后才知道对和错，因此智能体的概念非常重要，让环境提示智能体，让它有反思的机会，去改正错误。”

 

其四是具身智能，“通过加上机器人，让大模型在物理世界也能够工作。将来如何发展通用机器人？我认为要‘软件通用，硬件多样化’，马斯克宣传人形机器人，但我认为将来不止限于人形机器人。”

 

发展大模型要解决理论问题

 

在此前“智谱AI”2024年度技术开放日上，张钹在《从大语言模型到通用人工智能》的主题分享中表示，以前的人工智能都受限于三个“特定”：特定领域、特定算法、完成特定任务。人工智能只能在限定的领域内工作，受限于特定算法，并完成特定的预设任务。这三个特定都使其受限于某一应用领域。

 

他说，生成式模型完全改变了这种模式。我们使用通用的转换器（Transformer）模型，在开放领域内生成各种任务，完成多种任务，不受领域限制。“这表明人工智能正在向第三代人工智能发展，也证明了行为主义道路是可行的。”

 

在他看来，第一代人工智能运用了知识、算法、算力三个要素，其中最主要的是知识。第二代人工智能则主要用了数据、算法和算力三个要素。为了克服人工智能的固有缺点，第三代人工智能时代，唯一的办法是把知识、数据、算法和算力这四个要素同时运用。

 

他表示，发展第三代人工智能，首先必须建立理论，大模型的存在没有理论可以解释，这也是到现在为止还没有发展出一个大型的人工智能产业的问题所在。

 

通用人工智能的终极目标是需要实现的

人工智能时代，中国有机会做引领者

 

在7月19日清华五道口“金融PLUS系列产业峰会2024”上，张钹表示，ChatGPT向通用人工智能迈出了一步，但它只解决了语言问题，除了语言之外还有大量的其他问题，目前的人工智能浪潮只是一个开始。

 

就人工智能的发展方向，人类目前正在进行第三步工作，用他的话说，就是在大模型的基础上构造一个智能体，使其能够与数字世界交互。

 

张钹认为，通用人工智能的终极目标是需要实现，第一，与领域无关；第二，与任务无关，且达到人类的水平；第三，建立人工智能统一理论。

 

“在信息科技时代，中国的使命是追赶，而在人工智能时代，中国有机会做引领者。”他说。

 

来源：新京报贝壳财经、清华大学人工智能国际治理研究院、光明日报、元界等