真正的人工智能，需要理解本体论

点击：作者：记者来源：人工智能学家微信号发布时间:2022-09-21 10:02:50

来源：混沌巡洋舰

人工智能的终极语境是什么？

真正的人工智能，需要理解本体论

现在的人工智能技术突破或许具有划时代意义，但即使是计算能力最强大、最先进的机器，也达不到人类智能的层级。人工智能具备测算能力，但它无法完全等同于人类的判断力。判断力是一种以符合伦理的承诺和负责任的行动为基础的冷静、深入的思考能力。我们的未来不可避免地与人工智能捆绑在一起，那么我们就需要思考人工智能是什么？如何理解其判断能力？人工智能未来将走向何方？

要理解通用智能和判断能力，我们可以将其应用于三个问题，这三个问题的技术性很强，且重要性非同一般。

1. 指称

第一方面涉及指称的本性。我明确说过，判断能力要求所有的注记负责可靠。这要求对被注记的世界的担当。正如我一直强调的那样，仅为注记担当是远远不够的。正如我们现在可以看到的，这也不是对注记好了的世界的担当，相反，我们所需要的是对“被注记的那个是什么”（that which is registered）的担当。这里重要的不只是注记与注记对象之间的区别，这种区别实际上就是地图和领土之间标志与被标志之间的区别。更确切地说，这是一种形而上学的更为根本的观点：对于那些“被注记的那个是什么”，总是存在着盈余。你可能是一个人，但你不仅仅是我所注记的人，还包括了更多。如果我指称你，我指称的是那个完完全全的你。要把一个论证注记为高明的，我必须指称它，不管它是不是一个论证。

一般来说，为了锚定到世界，指称和思想必须“透过”一切用来解析或理解的注记方案，才能到达世界本身。我们为之担当的不是对世界的注记结果，而是指称和思想所达到的世界本身的那部分，担当把我们与世界绑定，我们的尊崇也是指向世界的。这是真实的也是关键而困难的部分，即使我们所指称的个体的区分准则源于所采用的注记实践。

以下是一个可能有用的类比，如图 12.1 所示的是蒙德里安的画作。考虑“朝向左上角的最大的灰色矩形”，并称之为α。假设图 12.2 是一个精确表征，在很高的放大倍数下，其为该矩形的上边缘的一部分。至少可以说，灰色补丁 A 属于α 的指称范围，深色补丁 B 或许不属于 α 的指称范围（白色补丁 C 还不太清楚是否属于 α 的指称范围，姑且先不管），即使 A 和 B 分别处于与 α 相关联的矩形最为可能的实际边界（理想化的、柏拉图式的）之外和之内。例如，如果蒙德里安让助手“擦掉矩形”，那么毫无疑问 A 就会被擦掉。

这幅图仅是一个比喻。关键是，任何被注记的对象（一个人、一个策略、一个国家）不仅不局限于注记者对它的理解，也不局限于任何以它为所指的理想化中所包含的内容，并且最终也不局限于人类的理解。唯有如此，注记才会负责可靠。这一点可能听起来很玄奥，但实际上是常识性的：我们理解的东西其实总会超越我们的理解，包括其本性、有界性和作为一个对象的同一性。

我之前说过，测算系统和判断系统的区别之一是前者满足于在世界的注记范围内运作，而后者必须致力、关注、关切被注记的世界。刚才这个讨论强调，为了确保对世界的担当，一个系统必须“如履薄冰”——把各种注记结果和注记框架都保持悬置在永久的认知和规范中，随时准备对其放手，以便公正地对待用其所注记的事物。佛教有句话很贴切地形容了这种情况：除非以“放下我执”的态度去对待那些你用来理解世界的注记机制，否则永远不能达到“究竟自在”的彼岸。

2. 语境

第二方面与一个从一开始就困扰人工智能研究的问题有关，在第一波人工智能向第二波人工智能迭代的过程中一直如此。美国国防部高级研究计划局确定其为通用人工智能标准并设想其成为第三波人工智能的一部分：语境的概念。问题不仅是让计算机系统以适当的方式使用对语境敏感的结构和符号，比如用指示词和以视角依赖的方式进行描述（类似于“今天”或“驱动器中的媒介”等），而是将系统配置为可以适用于超出当前所表示的更广泛的情况，包括明确或隐晦的情形，既让系统不要忽略相关的事实或现象，也不要浪费时间和资源去探索任何理论上可能相关（但实际上不相关，甚至任何稍有常识的人都会认为其不相关）的无穷无尽的事实或现象。

我们可以通过考虑对第一波人工智能的认识论批评部分技术含义来探讨这个话题：思维产生于“不可言喻的知识和理解的视域”。要适应语境，并不仅仅是能够考虑给定注记框架中

的其他因素，或者甚至能够从一个注记框架转移到另一个注记框架，就像老派人工智能对逻辑推理的构想中所描述的那样，从一个边界清晰的岛屿转移到另一个岛屿。巧妙地处理语境不是一种后注记、后存在论的技能，这才是关键所在。语境意识需要监督系统在世界中具身化和嵌入式的参与，且只有在适当的时候才进行注记。

长久以来，真正的智能存在一个不容置疑的事实，那就是只要有相关性，任何东西都有它的用处。在任何特定的情况下以及在任何特定的推理过程中，对于什么可能至关重要，并没有限制或规定。当前的分析提高了预期的目标水平：没法保证任何注记框架能够足以应付所有意外情况。毫无疑问，要用英语来描述一种无法注记的情况在概念上是根本行不通的。然而，作为该方向上的一种指示，我们可以进行一些想象，在某些情况下，任何预先设想的注记集合都不足以被用于训练机器学习系统：一架发生故障的飞机在驾驶过程中坠毁在一个人的头顶，一个人们经常在网上备份头脑的社会中关于谋杀的伦理，一个有两个空间和两个时间维度而不是三个空间和一个时间维度的宇宙的本质等。

唯一的“终极语境”是作为一个整体的世界，任何注记框架都不可能涵盖。换句话说，对语境的敏感性要求远不止从一套预先设定的注记框架中进行选择，语境的敏感性不仅仅是一个拥有世界模型的问题。再换句话说，没有一个模型能够适用于所有潜在的情况。相反，对语境的敏感性要求能够根据需求选择或开发一种模型（注记框架），使其适用于任何情况，并以坚定的担当作为后盾，使该模型（框架）对与模型相关的世界负责可靠。

世界需要担当才能被保持在视野中。语境意识必须以这种担当为基础。因此，概念敏感性需要判断能力。这一点仅靠测算能力是无法达到的。

3. 世界（“The World”）

最后，总结这一长长的分析究竟把我们带到了哪里将不无裨益。

我说过对老派人工智能的本体论批判可以说是最为深刻的。毋庸讳言，这不是对本体论的批判，而是对人工智能系统的批判，这与它们对自己要理解的世界所做的本体论假设有关。在构建系统的过程中，我使用了术语“本体论”来大致表示“存在什么”，也就是说，世界中的所有，包括存在的对象、属性和关系。

我也说过，第二波人工智能最重要的贡献之一是它为我们提供了一扇通向另一种本体论观点的窗户。但就目前所知来看，该描述显然不够充分。机器学习的影响更为深远。这些新系统以及我们通过系统构建所获取的经验告诉我们何谓本体，本体的对象是什么、个体化是如何产生的、世界在对象的“形而下”里是什么样子（即使比在对象、属性和关系的个体化抽象中所掌握得更为详细）。换句话说，第二波人工智能为我们提供了对本体论的形而上学基础的洞察。《测算与判断：人工智能的终极未来》中会有强烈的本体论色彩。如果当时我们在这一点上已经有了必要的区分，我可以说，本书充满了强烈的本体论和形而上学色彩。

我们已经看到，第二波人工智能正在展示一些我已经说了很多年的东西：本体论出现在注记实践的语境中，且并非世界的先验和预设的结构。此外，注记（包括确定适当的注记框架）是智能本身最重要的特征之一，也直接适用于人工智能。坦率地说，对于人工智能以及人工智能所属的更广泛的智能研究来说，仅仅对本体论做出假设很显然是远远不够的，我们还必须解释本体论。

对注记展开研究，从而将本体论的主题纳入人工智能的研究议程，可以说是近年来发展的最重要的哲学和科学成果之一。

我们从机器学习和第二波人工智能中学到以下内容：

需要修正我们对概念和概念推理的理解，以欣赏概念源于浸透在非概念细节中的力量。

我们需要理解“注记”（registration），并适当地认识到“对世界进行注记”可能是智能的重要特征。

对于人工智能及其对所属的对智能的更广泛的研究来说，假定智能是指部署在已经具备本体结构的世界中的系统所具有的能力，这种说法是不全面的。本体论是智能的成果，而非预设。

最高水平的智能——任何能够支持判断能力的智能或者说真正的智能，至少在一种隐性的意义上需要理解本体论观点，且足以规范和实用地管理人工智能的行为。正如我所强调的，判断能力需要对我们可以称为第三个层次上的表征的担当，而不只是对第一个层次的表征或注记（包括数据结构、图像、描述或术语）担当；或者是对第二个层次的表征，也就是说世界作为被注记的样子的担当（如桌子、机械师等）。我不相信人工智能系统已经从第一个层次过渡到第二个层次。但任何接近判断能力的东西都需要第三个层次，这是一个更为苛刻的要求：对被注记为椅子的 TW 担当。这个陈述中的“世界”并不是指我们通常所认为的世界（一个围绕太阳运转的行星体、一个丰富的社会和政治有序体、一个生物发酵体）。相反，世界在让第三个层次上的担当有意义的唯一意义上，是对所有这些事物而言的基础和保证，它是存在的基础。

我知道，用“存在的基础”来描述世界可能听起来有些不可思议（虽然并不是完全不可思议）。但这一点并不难理解，它既不是问题，也不需要害怕。简单来说，就是我在《测算与判断：人工智能的终极未来》中用过很多次的方式，即第三个层次的担当必须是指向我们所注记的 TW 的。就桌子而言，我们认为是桌子的 TW。就人而言，就是我们注记为人的 TW，如此等等。并非（第一个阶段）“桌子”或“人”的表征，亦非（第二个阶段）作为注记结果的桌子或人（因为这并不能让我们说“那根本不是人”或者“你认为是桌子的东西根本不是一个清晰的对象”）。相反，只有当我们对（第三个阶段）将它当作桌子或人的 TW 担当时，我们才有资格对注记结果负责。

我在自己的教学中引入了缩写词“TW”，首先要解释该缩写词是我在这里所使用的“世界”（“The World”）的缩写，即“存在的基础”。但是随着对话的展开，证明了改变缩写词的内涵（如果非其本义）将会有所助益，由此“TW”代表了“that which”，也就是担当、注记等必须面向的“that which”。