|  站内搜索:
网站首页 > 学术探索 > 科技前沿 > 阅读信息
倪光南:自主可控携人工智能打造网络强国
点击:  作者:Cismag    来源: 信息安全与通信保密杂志社  发布时间:2019-11-05 10:44:42

 

人工智能安全可控

人工智能安全可控主要包含三个方面的问题,分别是传统安全、网络安全、人工智能伦理安全。传统安全是与任何传统产品 / 服务同等的安全问题,能够与传统产品 / 服务同等对待;网络安全是与其他网信产品 / 服务同等的安全问题,能够与网信产品 / 服务同等对待。

这属于非传统安全,需要强调自主可控、安全可信;人工智能伦理安全问题,是人工智能安全可控中特有的问题,内容十分充足,比如欧盟委员会发布的人工智能 7 条伦理准则、微软《未来计算》提出的人工智能开发的六大原则、百度李彦宏提出的人工智能伦理四原则、美国 IEEE 提出的三项人工智能伦理标准以及艾伦人工智能研究所 CEO 埃齐奥尼提出的三原则,在此基础上, 笔者提出 8 项原则:

可控性:人工智能是人类创造的,应保证人类控制人工智能而不是相反。

公平性:例如深度学习资料应防止出现种族、年龄、性别、教育等等的歧视。

安全性:避免人工智能系统可能在不可预见的情况下造成伤害,或者被人恶意操纵, 实施有害行为。

隐私保障:例如未经信息来源明确许可,人工智能系统不能保留或披露机密信息等。

包容性:确保人工智能技术造福、赋能每一个人,而不是只惠及个别人。

透明度:例如解决深度学习算法的黑盒问题,以免导致出现不可预测情况。

增加社会福祉:例如不能容许人工智能作恶。

问责制:例如人工智能系统必须遵守同等情况下适用于人类的所有法规。

网络安全要求自主可控

网络安全的核心是技术安全。在网信领域对技术安全的表述是安全可控自主可控、安全可信(安全可靠),至少是包含了可控性安全性两个方面。

十九大报告中提出要统筹传统安全和非传统安全,网络安全属于非传统安全,其内涵比传统安全广泛。此前国家网信办公布的《网络产品和服务安全审查办法》将网络安全审查分成安全性审查和可控性审查,最近公布的《网络安全审查办法》将审查内容进一步扩大,包括审查可控性、透明性以及供应链安全以及其他多个方面,概括性地分析,这些审查主要是审查能否满足自主可控的要求。

自主可控是实现网络安全的前提,也是必要条件,但并不是充分条件。换言之,采用自主可控的技术不等于实现了网络安全,但没有采用自主可控的技术则一定不安全。

在操作层面上,为了保障网络安全,首先要做到自主可控,尤其是对于关键核心技术,能否满足自主可控要求,往往具有一票否决的地位。

以可控性为例,假设消费者购买了一辆传统汽车,自然拥有了对汽车的控制权,一般不需考虑可控性,只需考虑安全性。

但是,如果购买的是自动驾驶汽车,这辆汽车是一件网信产品,那么其安全性就变得复杂。即使汽车本身的安全性没有问题,但它可能被黑客劫持, 这时汽车的控制权就被黑客掌控,黑客可以遥控汽车,使其不受驾驶员的控制,甚至导致车毁人亡,这便是可控性出了问题。

由此可见,对属于非传统安全范畴的网络安全而言,离不开自主可控。

认清中国网信领域的总态势

中国已经是一个互联网大国,但还不是真正的互联网强国。目前为止,发达国家仍然是互联网核心技术与核心资源的掌控者。

近来中兴事件等一系列事件充分证明 : 互联网核心技术是我国最大的命门”, 核心技术受制于人是我们最大的隐患。随着现代社会的政治、经济、军事等等都日益严重地依赖互联网,互联网的安全隐患不容轻视。

当前,我国网信事业的发展存在明显的长板短板。在长板方面,中国的优势在于拥有世界最丰富的科技人力资源、最大的市场、世界第二大经济体实力,国家的优惠政策以及中国的举国体制等等。

长板方面,主要体现在互联网应用和新一代信息技术,互联网应用包括电商、移动支付、社交、搜索等,新一代信息技术包括人工智能、大数据、5G、物联网、云计算等。

中国网信领域总体技术和产业的水平在世界上居第二位,仅次于美国。中国企业在全球 ICT 企业前十名中占据 3 席,分别是华为(华为未上市,但其估值可接近苹果)、阿里巴巴、腾讯。

这些应用方面的优势,虽然不足以弥补我们在基础方面的劣势,但通过应用的牵引,能够促进技术和产业的发展,从而带动基础方面的提高,因此大力发扬长板的作用有很大意义。只要善于扬长避短,坚持自主创新,完全有可能在长板中的某个部分实现从跟跑并跑到并跑领跑的转变,5G 便是一个重要契机。

短板方面,主要是芯片和基础软件。芯片方面的短板体现在芯片设计、制造、封装测试、材料、装备、EDA 设计工具等方面,具体而言, 芯片的产业链的各环节不均衡:

首先,芯片设计水平具备一定的实力,例如国产高性能计算机的 CPU、服务器 CPU、手机 CPU 等等,都可与世界顶级 CPU 一争高低;

其次,芯片生产水平较差,我国最大的集成电路制造公司——中芯国际(SMIC)在世界同类企业中排行第 5

然后,集成电路生产装备国产化比率不到 20%在材料方面,如光刻胶全部依赖进口,其他许多材料也严重依赖进口;

最后,设计工具(EDA)完全依赖进口,等等。为弥补短板,国家通过 IC 产业基金计划,第一期为 1400 亿元,第二期投入更大,社会各界纷纷参与,有望在一二十年内努力补齐这一短板。

基础软件方面的短板包括移动 OS、桌面 OS、大型工业软件等。基础软件主要指智能终端操作系统(桌面、手机等), 还有大型工业软件(包括 CAECADCAM 等软件)。基础软件具有规模大、垄断性强、开发周期长等特点。基础软件短板的危害不亚于芯片短板,此前基础软件的短板的危害并未充分暴露(包括安全风险和供应链风险)。

目前其风险已凸显出来。基础软件的市场基本上被外国所垄断,对于我国而言,不仅在经济上需付出巨大代价,而且存在着重大安全隐患。

我国网信领域的整体技术和产业水平已居世界第二,在对形势的估计上,我们既不能夜郎自大,也不能妄自菲薄。相比发达国家而言, 中国在网信领域处于整体跟跑的状态,但有些方面已出现了跟跑、并跑、领跑并存的局面。

当前形势对中国核心技术的发展,机遇和挑战并存。一方面,通过引进获得核心技术已不可能;另一方面,自主创新的核心技术也更易进入市场,也将获得发展壮大的机会。华为的多年备胎一夜转正就是一个例子。

自主可控测评制度保证

我国网信技术存在短板,容易出现被人卡脖子的现象,主要在于主客观两方面原因:

客观上分析,一方面我国仍是发展中国家,国力和科技水平等与发达国家存在差距;另一方面, 外国对我国实行禁运封锁。

主观上分析,一是造不如买,买不如租的思想影响,这一点从中国 EDA 软件发展历程可以看出,从巴统禁运、打破封锁,到举步维艰、再度起航,再到攻坚克难,发展之路漫长又曲折。二是穿马甲问题危害严重。例如,曾经有人替微软的“Win10” 穿马甲,炮制“Win10 政府版,不顾政府采购对 Win8 的禁令,打入政府等重要领域,违背了关键核心技术自主可控原则,现在暴露的问题已越来越多。

自主可控需制订客观、科学的测评标准, 并由第三方机构实行测评;在关系到网信安全的重要场合,自主可控测评可起一票否决作用。为了客观地、科学地评估自主可控程度, 有关部门提出了实行多维度测评的要求,即除了以往已经实施的质量测评安全测评外,再增加了自主可控测评,因此,多维度测评共包含:

自主可控测评:对产品 / 服务 / 系统的自主可控性进行评估,该评估既能够针对CPUOS 等核心技术产品,也能够针对其他软硬件或服务,甚至也可针对一个信息系统或一项信息基础设施;

质量测评:对产品 / 服务/ 系统的功能、性能等等技术指标进行测评;

安全测评:对产品 / 服务 / 系统的安全性进行测评,此种测评往往是实施等保”“分保制度的必要内容。

当前,我国网信领域要求采用自主可控的技术和产品,特别是要求实现关键核心技术自主可控。实践证明,在当前国际形势下,如果关键核心技术不能自主可控,随时会被卡脖子。坚持自主可控、科技自主,才能抵御外国的制裁。

过去三十多年,我国发展主要靠引进第三次工业革命的成果,基本是利用国外技术,早期是二手技术,后期是同步技术。而现阶段,不仅无法从他国获取关键核心技术,而且也很难获得一般的高技术,因此在引进高新技术上不能抱任何幻想,应当改变过去造不如买、买不如租的逻辑。

总而言之,实现中华民族伟大复兴宏伟目标时不我待,要有志气和骨气加快增强自主创新能力和实力,努力实现关键核心技术自主可控,把创新发展主动权牢牢掌握在自己手中。

倪光南,中国工程院院士,计算机专家, 长期致力于发展自主可控的信息核心技术和产业。

选自《信息安全与通信保密》2019年第十期

责任编辑:向太阳
特别申明:

1、本文只代表作者个人观点,不代表本站观点,仅供大家学习参考;

2、本站属于非营利性网站,如涉及版权和名誉问题,请及时与本站联系,我们将及时做相应处理;

3、欢迎各位网友光临阅览,文明上网,依法守规,IP可查。

昆仑专题

热点排行
  • 一周
  • 一月
  • 半年
  • 建言点赞
  • 一周
  • 一月
  • 半年
  • 图片新闻

    友情链接
  • 186导航
  • 红旗文稿
  • 人大经济论坛
  • 光明网
  • 宣讲家网
  • 三沙新闻网
  • 西征网
  • 四月网
  • 法律知识大全
  • 法律法规文库
  • 最高人民法院
  • 最高人民检察院
  • 中央纪委监察部
  • 共产党新闻网
  • 新华网
  • 央视网
  • 中国政府网
  • 中国新闻网
  • 全国政协网
  • 全国社科办
  • 全国人大网
  • 中国军网
  • 中国社会科学网
  • 人民日报
  • 求是理论网
  • 人民网
  • 备案/许可证编号:京ICP备15015626号-1 昆仑策研究院 版权所有 举报邮箱:[email protected]
    携趣HTTP代理服务器