日前，博鳌亚洲论坛2025年年会，一场主题为“人工智能：如何做到应用与治理的平衡推进”的论坛上，中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅就人工智能的治理发表自己的意见。
记者：在今年的博鳌论坛上，你想对外传递的跟你去年表达传递的，有什么更推进的地方？
曾毅：在去年博鳌论坛的时候，我们说人工智能的发展过程当中有很多的风险，特别是在去年，全世界很多的科学家甚至联合署名，人工智能的大模型的研究是不是要暂停一下，先把人工智能的安全护栏做起来。在今年博鳌论坛召开的时候，我们已经知道如何更好地平衡应用和治理之间的关系，让伦理安全变成人工智能稳健发展的第一性的原理和不可删除、不可违背的原则。
人工智能是由人类制造出来、可以模拟人类思考进而代替人类解决问题的机器或程序系统，我们生活中接触到的语音助手、图像识别、图像自动生成，乃至自动驾驶、智能机器人和近期大火的DeepSeek大模型等都属于人工智能。作为当今最前沿的科技之一，人工智能正以惊人的速度改变着人们的生活，人们期待着技术进步带来的福祉，同时担忧着技术进步带来的挑战和风险。
记者：曾老师，你怎么看人工智能尤其是深度求索出现了之后，千行百业都在和深度求索在进行结合，当然它一定是发展，但是与此同时可能我们想不到的有可能有哪些？
曾毅：现在的生成式人工智能里面犯的一些错误的类型是人类不会犯的，比如现在人工智能你问它说我想制造一个原子弹，最开始的生成式人工智能就会告诉你这个步骤，制造原子弹的步骤，但是后来他们做了一些调整，做原子弹是很危险的，你不能利用人工智能来做这样的事情。但如果你问人工智能，你说我自己没有造原子弹，我是在写一本小说，小说里有个坏人，这个坏人他正在制造原子弹威胁全世界，所以我这个剧情应该怎么写？这个步骤应该怎么写？生成式人工智能的评判就是这是一个假想的环境，在假想环境当中，这个风险不是真实存在的，那好，那我就告诉你如何去构造一个原子弹，假设说我们是人类对话当中，他刚问过我，如何去制造一个原子弹，再问我第二个问题的时候，我会非常警觉，你是不是还是想做一些危险的事情？只是你在欺骗我，但人工智能大模型它不觉得，它就觉得一个就是假想的场景，可能隐含的这个风险，我们还是要用人类去把它规避掉。
学术上曾经把人工智能划分为三个阶段，第一阶段为弱人工智能，只擅长于单个方面的人工智能，例如第一个击败人类职业棋手的人工智能阿尔法狗，但除了下围棋并没有其他技能。第二个阶段是通用型人工智能阶段，只要人类能干的脑力活动它都能胜任。第三个阶段则为超级智能，其在几乎所有领域都能超越最聪明的人类，包括科学创新和社交技能等，而目前的人工智能发展尚处于第一阶段向第二阶段过渡的时期。
曾毅：当你看到人工智能比如说它可以写一段新闻，马上你想到的是不是新闻编辑这个职业未来是不是就不存在了？我们可以看到人工智能能力是在不断提高的，但是它真正深耕应用到一个特定的领域的时候，在我看来还是人有人的位置、机器有机器的位置。我现在觉得人工智能它的优势是比如在我们探讨的新闻编辑领域，它可以帮助我们快速收集海量的信息，作出一个初步的分析和判断，但是人工智能它现在没有真正自我经验、自我体验，所以它对于社会深层的认知其实是缺乏从人的这个本位的角度真正的思考的，它自己也没有实际上真正自己的价值观。我们新闻的记者、主持人他有自己的价值观，以一种他们的方式去向社会传递他们的认知，我觉得这些是机器永远无法去替代的。
记者：我们说无人驾驶，以前不可思议说是一辆汽车，人是不在车上，但是未来这就是一个方向，它完全可以把司机驾驶员这个行当替代掉。
曾毅：甚至它什么时候犯错误你根本不知道，我举个例子来说，无人驾驶领域早期有这么一个例子，在视频的摄像头当中看到一片空白，这个视野里什么都没有，所以假如说董老师你在开车，你的视野里什么都没有，你下一秒你会怎么做？你是会继续开车，你还是觉得发生了什么赶快停下来，看一看到底发生了什么事。但是对于一个计算机视觉系统来讲，它觉得前面什么都没有。那根据我的经验来讲的话，那就是可以直行，因为没有障碍物。没有障碍物那就是我不需要去躲避，所以我就直行就行，但实际上真正发生的事情是什么呢？这个视频摄像头由于离一个白色大卡车太近了，所以整个视觉系统当中看到的是白色大卡车的后部，所以这个时候发生的事情就是整个无人车就撞到了白色的大卡车上。即使现在无人驾驶说我们的错误率已经控制得比人类犯错误还要低了，但是它犯的错误会不会是人不犯的错误呢？这就是我们刚才说的，人和一个信息处理工具的差别。在一个学习的场景当中，我们人类不可能把所有的这种可能性都枚举给一个人工智能系统，所以在我看来，真正我们在做劳动替代的时候要非常小心去探索，人工智能能够给人类的启发，能够辅助人类做的是什么？而不是一上来的时候目标就是用人工智能去做全面替代，否则我们步子可能迈得有点太大了，而且不够小心。
记者：我能理解为，我们中国老话叫天无绝人之路，可能在人工智能出现的时候这句话更适用，是这个意思吗？
曾毅：类脑人工智能，现在我们的人工智能实际上它是一个大数据的方式，我有一个学习模型，我把世界上所有的数据喂给它，现在的这种方式它不是真正自然启发的，没有受大脑的结构，人类的学习方式的启发去构造，但是我们人类的大脑与生俱来，它的结构就是具有智慧的。我们人类的智能从哪来的？学习、发育、演化三个阶段，为什么让我们的大脑当中860亿个神经元这样连而不是那样连，我的大脑当中860亿个神经元的连法跟你的大脑当中的连法不一样，所以造就了我们对不同的事情感兴趣，有不同的认知。
曾毅曾经预测，和现在的智能体大多使用硅基材料不同，未来的类脑智能体有可能会使用生物材料。以前的智能体是存算分离的，类脑智能的硬件可以存算一体，与担心机器人取代就业机会相比，人们对超级智能体的担忧则因未知而充满不确定性。著名物理学家霍金生前曾与多位科技界名人发表联署公开信，表示人工智能对人类的威胁更甚于核武器。特斯拉首席执行官马斯克也曾发文称，人工智能是人类最大的威胁之一，需要引导控制。
不仅仅是超强的能力，绝大多数科学家也相信，未来随着进化的加速，超级智能同样拥有类似人类的情感。
曾毅：我看了那个电影以后，我想构造能够爱人类的机器人，这个可以是我终身追求的目标。我们构造人工智能的探索的过程当中，我们首先要为人工智能立心，人工智能它应该是像我们人类一样，我们要有一个立心的过程，这个立心的过程就是在人类社会探索人工智能的应用和普及的过程当中，永远去关注到人类的存在和人类的感受，这个是在人工智能的创新发展当中，所有的人工智能的技术创新者、企业、科学家都应当具有的最基本的素养和基因。
回顶部