倪光南：自主可控携人工智能打造网络强国

 

人工智能安全可控

人工智能安全可控主要包含三个方面的问题，分别是传统安全、网络安全、人工智能伦理安全。传统安全是与任何传统产品 / 服务同等的安全问题，能够与传统产品 / 服务同等对待；网络安全是与其他网信产品 / 服务同等的安全问题，能够与网信产品 / 服务同等对待。

这属于非传统安全，需要强调自主可控、安全可信；人工智能伦理安全问题，是人工智能安全可控中特有的问题，内容十分充足，比如欧盟委员会发布的人工智能 7 条伦理准则、微软《未来计算》提出的人工智能开发的六大原则、百度李彦宏提出的人工智能伦理四原则、美国 IEEE 提出的三项人工智能伦理标准以及艾伦人工智能研究所 CEO 埃齐奥尼提出的三原则，在此基础上， 笔者提出 8 项原则：

可控性：人工智能是人类创造的，应保证人类控制人工智能而不是相反。

公平性：例如深度学习资料应防止出现种族、年龄、性别、教育等等的歧视。

安全性：避免人工智能系统可能在不可预见的情况下造成伤害，或者被人恶意操纵， 实施有害行为。

隐私保障：例如未经信息来源明确许可，人工智能系统不能保留或披露机密信息等。

包容性：确保人工智能技术造福、赋能每一个人，而不是只惠及个别人。

透明度：例如解决深度学习算法的“ 黑盒”问题，以免导致出现不可预测情况。

增加社会福祉：例如不能容许人工智能作恶。

问责制：例如人工智能系统必须遵守同等情况下适用于人类的所有法规。

网络安全要求自主可控

网络安全的核心是技术安全。在网信领域对技术安全的表述是“安全可控”或“自主可控、安全可信（安全可靠）”，至少是包含了“可控性” 和“安全性”两个方面。

十九大报告中提出要统筹传统安全和非传统安全，网络安全属于非传统安全，其内涵比传统安全广泛。此前国家网信办公布的《网络产品和服务安全审查办法》将网络安全审查分成“安全性”审查和“可控性” 审查，最近公布的《网络安全审查办法》将审查内容进一步扩大，包括审查“可控性、透明性以及供应链安全”以及其他多个方面，概括性地分析，这些审查主要是审查能否满足“自主可控”的要求。

自主可控是实现网络安全的前提，也是必要条件，但并不是充分条件。换言之，采用自主可控的技术不等于实现了网络安全，但没有采用自主可控的技术则一定不安全。

在操作层面上，为了保障网络安全，首先要做到自主可控，尤其是对于关键核心技术，能否满足自主可控要求，往往具有一票否决的地位。

以可控性为例，假设消费者购买了一辆传统汽车，自然拥有了对汽车的控制权，一般不需考虑可控性，只需考虑安全性。

但是，如果购买的是自动驾驶汽车，这辆汽车是一件网信产品，那么其安全性就变得复杂。即使汽车本身的安全性没有问题，但它可能被黑客劫持， 这时汽车的控制权就被黑客掌控，黑客可以遥控汽车，使其不受驾驶员的控制，甚至导致车毁人亡，这便是可控性出了问题。

由此可见，对属于非传统安全范畴的网络安全而言，离不开自主可控。

认清中国网信领域的总态势

中国已经是一个互联网大国，但还不是真正的互联网强国。目前为止，发达国家仍然是互联网核心技术与核心资源的掌控者。

近来“中兴事件”等一系列事件充分证明 : 互联网核心技术是我国最大的“命门”, 核心技术受制于人是我们最大的隐患。随着现代社会的政治、经济、军事等等都日益严重地依赖互联网，互联网的安全隐患不容轻视。

当前，我国网信事业的发展存在明显的“长板”和“短板”。在长板方面，中国的优势在于拥有世界最丰富的科技人力资源、最大的市场、世界第二大经济体实力，国家的优惠政策以及中国的举国体制等等。

长板方面，主要体现在互联网应用和新一代信息技术，互联网应用包括电商、移动支付、社交、搜索等，新一代信息技术包括人工智能、大数据、5G、物联网、云计算等。

中国网信领域总体技术和产业的水平在世界上居第二位，仅次于美国。中国企业在全球 ICT 企业前十名中占据 3 席，分别是华为（华为未上市，但其估值可接近苹果）、阿里巴巴、腾讯。

这些应用方面的优势，虽然不足以弥补我们在基础方面的劣势，但通过应用的牵引，能够促进技术和产业的发展，从而带动基础方面的提高，因此大力发扬“长板”的作用有很大意义。只要善于扬长避短，坚持自主创新，完全有可能在“长板”中的某个部分实现从跟跑并跑到并跑领跑的转变，5G 便是一个重要契机。

短板方面，主要是芯片和基础软件。芯片方面的短板体现在芯片设计、制造、封装测试、材料、装备、EDA 设计工具等方面，具体而言， 芯片的产业链的各环节不均衡：

首先，芯片设计水平具备一定的实力，例如国产高性能计算机的 CPU、服务器 CPU、手机 CPU 等等，都可与世界顶级 CPU 一争高低；

其次，芯片生产水平较差，我国最大的集成电路制造公司——中芯国际（SMIC）在世界同类企业中排行第 5；

然后，集成电路生产装备国产化比率不到 20%；在材料方面，如光刻胶全部依赖进口，其他许多材料也严重依赖进口；

最后，设计工具（EDA）完全依赖进口，等等。为弥补短板，国家通过 IC 产业基金计划，第一期为 1400 亿元，第二期投入更大，社会各界纷纷参与，有望在一二十年内努力补齐这一短板。

基础软件方面的短板包括移动 OS、桌面 OS、大型工业软件等。基础软件主要指智能终端操作系统（桌面、手机等）， 还有大型工业软件（包括 CAE、CAD、CAM 等软件）。基础软件具有规模大、垄断性强、开发周期长等特点。基础软件短板的危害不亚于芯片短板，此前基础软件的短板的危害并未充分暴露（包括安全风险和供应链风险）。

目前其风险已凸显出来。基础软件的市场基本上被外国所垄断，对于我国而言，不仅在经济上需付出巨大代价，而且存在着重大安全隐患。

我国网信领域的整体技术和产业水平已居世界第二，在对形势的估计上，我们既不能夜郎自大，也不能妄自菲薄。相比发达国家而言， 中国在网信领域处于整体跟跑的状态，但有些方面已出现了跟跑、并跑、领跑并存的局面。

当前形势对中国核心技术的发展，机遇和挑战并存。一方面，通过“引进”获得核心技术已不可能；另一方面，自主创新的核心技术也更易进入市场，也将获得发展壮大的机会。华为的多年备胎一夜转正就是一个例子。

自主可控测评制度保证

我国网信技术存在短板，容易出现被人卡脖子的现象，主要在于主客观两方面原因：

客观上分析，一方面我国仍是发展中国家，国力和科技水平等与发达国家存在差距；另一方面， 外国对我国实行禁运封锁。

主观上分析，一是“造不如买，买不如租”的思想影响，这一点从中国 EDA 软件发展历程可以看出，从巴统禁运、打破封锁，到举步维艰、再度起航，再到攻坚克难，发展之路漫长又曲折。二是“穿马甲” 问题危害严重。例如，曾经有人替微软的“Win10” 穿马甲，炮制“Win10 政府版”，不顾政府采购对 Win8 的禁令，打入政府等重要领域，违背了关键核心技术自主可控原则，现在暴露的问题已越来越多。

自主可控需制订客观、科学的测评标准， 并由第三方机构实行测评；在关系到网信安全的重要场合，自主可控测评可起“一票否决” 作用。为了客观地、科学地评估自主可控程度， 有关部门提出了实行多维度测评的要求，即除了以往已经实施的“质量测评”和“安全测评”外，再增加了“自主可控测评”，因此，多维度测评共包含：

自主可控测评：对产品 / 服务 / 系统的自主可控性进行评估，该评估既能够针对CPU、OS 等核心技术产品，也能够针对其他软硬件或服务，甚至也可针对一个信息系统或一项信息基础设施；

质量测评：对产品 / 服务/ 系统的功能、性能等等技术指标进行测评；

安全测评：对产品 / 服务 / 系统的安全性进行测评，此种测评往往是实施“等保”“分保”制度的必要内容。

当前，我国网信领域要求采用自主可控的技术和产品，特别是要求实现关键核心技术自主可控。实践证明，在当前国际形势下，如果关键核心技术不能自主可控，随时会被卡脖子。坚持自主可控、科技自主，才能抵御外国的制裁。

过去三十多年，我国发展主要靠引进第三次工业革命的成果，基本是利用国外技术，早期是二手技术，后期是同步技术。而现阶段，不仅无法从他国获取关键核心技术，而且也很难获得一般的高技术，因此在引进高新技术上不能抱任何幻想，应当改变过去造不如买、买不如租的逻辑。

总而言之，实现中华民族伟大复兴宏伟目标时不我待，要有志气和骨气加快增强自主创新能力和实力，努力实现关键核心技术自主可控，把创新发展主动权牢牢掌握在自己手中。

倪光南，中国工程院院士，计算机专家， 长期致力于发展自主可控的信息核心技术和产业。

选自《信息安全与通信保密》2019年第十期