【两会提案】关于加强人工智能应用安全，促进数字经济稳步发展的提案
发布时间 2021-03-05
备受关注的全国两会正在火热进行中。今天，为大家分享全国政协委员、启明星辰信息技术集团股份有限公司首席执行官严望佳第二份提案。
提案二：关于加强人工智能应用安全，促进数字经济稳步发展的提案
问题及原因分析
数字经济作为引领未来的新经济形态已成为我国高质量发展的新引擎，习近平总书记更是指出“数字经济是全球未来的发展方向”。数据作为生产要素，依托人工智能应用将会充分展现其要素价值，促进数字经济的进一步腾飞。
在大力发展人工智能应用，助力数字经济发展的同时，必须坚持统筹发展与安全，加强人工智能应用安全，促进数字经济稳步前行。当前人工智能应用主要面临如下一些安全问题。
1）与人工智能应用相关的数据安全及隐私保护问题。构建人工智能应用通常以大量数据为基础，包括可能涉及的个人数据、企业敏感数据等。而数据的采集、处理、计算等过程不可避免会产生数据安全与隐私保护问题。
2）人工智能应用中算法“黑盒”应用模式的安全隐患。当前很多人工智能应用往往直接套用现有模型，缺乏对核心算法的深入剖析，忽视其工作原理。在这些应用中，算法是不透明的“黑盒子”，很可能潜藏未知的安全隐患。
3）人工智能应用软硬件供应链安全问题。人工智能应用的实现包含大量工程化工作，涉及从底层芯片到上层应用开发的一系列软硬件供应链，每一环节都可能产生安全问题。另外，实现中可能依赖开源代码，既存在引入漏洞或后门的风险，又触及知识产权方面的问题。
4）逐渐显现的人工智能应用伦理安全问题。在这些问题中，既有将人工智能应用于错误目的，比如屡屡发生的“大数据杀熟”；也有应用构建过程不合理，比如算法偏见造成的决策不公；还有应用部署后的问题，比如决策错误引发损失时的责任认定等。
具体建议
“安全是发展的前提，发展是安全的保障”，为了稳步推进数字经济发展，充分发挥人工智能应用在发掘数据要素价值方面的作用，必须始终贯彻安全发展理念，从多方面采取有效措施加强人工智能应用安全。具体建议如下：
1）加强人工智能应用相关的数据安全及隐私保护技术研究
人工智能应用在获取数据价值的同时也面临着数据安全风险。传统的数据脱敏等安全防护技术在隐藏敏感信息的同时也造成数据价值的损失。因此，在推进数据安全相关法律完善的同时，还应加强隐私计算、安全多方计算等前沿技术研究，在不泄露隐私与敏感信息的前提下保留数据价值并支持人工智能应用构建所需的高效计算。建议设立相关专项课题推动产学研合作开展技术研究与应用落地攻关等。
2）强化人工智能应用的透明性要求，避免“黑盒”应用
以深度神经网络为代表的新型人工智能算法模型复杂，尚缺乏严格的理论基础，其可解释性仍然是一个前沿研究课题。在核心算法原理不明的情况下构建的人工智能应用可能产生意料之外的行为，安全风险不可控。因此，必须提高人工智能应用的透明性要求，尤其在涉及社会、人身安全的关键领域应避免“黑盒”应用。建议制定相关法律及标准规范，明确各领域人工智能应用的透明性要求与衡量指标等。
3）推动人工智能应用供应链安全评估，强化自主可控要求
在如今供应链安全事件频发的态势下，人工智能应用软硬件供应链的安全问题应得到更多关注。因此，必须加强人工智能应用供应链安全评估，尤其对于涉及国计民生行业中的关键信息基础设施相关的人工智能应用，在做好安全评估的基础上还应强化自主可控要求，避免被“卡脖子”。建议规范人工智能应用供应链安全评估机制并研究评估技术与方法，促进相关核心技术研究以实现自主可控等。此外，考虑到人工智能应用越来越多的源自开源软件领域，建议高度关注与加强评估开源供应链安全和开源软件安全，做好开源领域的风险管控。
4）制度与技术双轮驱动负责任的人工智能应用
国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》提出了和谐友好、公平公正、安全可控、共担责任等人工智能发展原则。这些原则的落实对于人工智能应用伦理安全问题的应对及数字经济的长远发展具有重大意义。因此，必须从制度与技术两方面共同采取措施促进发展负责任的人工智能应用。建议推动人工智能治理规范的量化评测方法研究并制定相关规范制度，促进产学研协同研究打造负责任的人工智能应用等。
京公网安备11010802024551号