人工智能新基建推进面临的挑战

数字经济时代,世界主要国家大力促进新兴技术发展,抢抓新一轮科技革命和产业变革的重大机遇,以5G、人工智能为代表的新型基础设施建设成为推进信息技术产业化的关键支撑,以及提升国家核心竞争力的重要抓手。面对国际竞争新形势、技术推广新困境、泛在安全新风险以及安全治理新问题,人工智能新基建的推进实施存在很多良机,同时也面临诸多挑战。

1  从国际形势看,人工智能新基建发展主导权受到威胁

当前,我国人口红利逐渐消退,传统制造业有加速向外转移趋势,而具备高附加值的科技和服务产业又由发达国家把持[2]。为避免落入“中等收入陷阱”,我国亟需把握以人工智能为代表的新一轮科技革命战略机遇,寻求新的经济增长点。目前,我国在计算机视觉、智能语音等人工智能应用层面处于全球领先水平,但在算力芯片、学习框架、基础算法等人工智能基础设施方面,对外依赖较为严重。近年来,以美国为头的发达国家为锁定其技术优势和主导地位,持续加大基础环节管控,遏制我国人工智能行业发展。自2019年至今,美国政府已将我国数十家知名人工智能企业列入“实体清单”,限制人工智能相关基础软硬件出口。后疫情时代,部分国家逆全球化思维呈现加速发展态势。美国加入全球人工智能合作伙伴组织(Global Partnership on Artificial Intelligence,GPAI)并推动发布联合声明,强调以符合“人权、自由和共同的民主价值观”的方式支持AI开发和使用,这将在一定程度上限制我国人工智能技术在全球范围内的发展和应用。错综复杂的国际形势给我国人工智能新基建推进带来新的风险挑战,影响自主发展能力,制约产业全球推广。

2  从技术特征看,人工智能新基建推进本身存在复杂性

人工智能技术快速发展演进,通用智能的实现方法尚不清晰,以海量数据和深度学习为驱动的技术途径虽然取得显著成果,但仍存在数据强依赖性、算法弱鲁棒性、技术高复杂性等诸多瓶颈,制约人工智能新基建推进应用。一是数据强依赖性制约垂直行业应用推广。人工智能充分赋能行业需要依赖行业内海量优质的应用场景数据,但在传统的工业制造、农业生产、卫生医疗等具体行业内,往往存在数字化转型程度不高以及数据开放共享不足等问题,对数据资源的高要求将限制人工智能有效推广[3]。二是算法弱鲁棒性较难适应复杂场景应用。现阶段深度学习算法存在鲁棒性弱的问题,在具体应用场景的开放动态环境中,算法决策可能会产生意料不到的错误,导致人工智能不太适用于工业控制、能源输配等安全可靠性要求高的场合。三是技术高复杂性限制新基建推进进程。人工智能具有多学科交叉、高度复杂性特征,导致专业人才无法及时供给,缺口较大,而人工智能新基建推进需要大量既懂人工智能技术、又有行业领域知识的复合型人才,此类人才目前更为稀缺。根据教育部门测算,我国人工智能人才缺口超过500 万,供需比例严重失衡,这将限制人工智能新基建的快速推进。

3  从安全风险看,人工智能新基建面临多层次安全挑战

新基建战略推进将促使人工智能成为具有基础支撑性、公共服务性等特征的社会公共品,进而对其安全性和可靠性水平提出更高要求。然而,当前阶段人工智能技术仍不断演进完善,且安全防御理论和技术处于探索初期,尚无法有效应对愈加复杂、多维度、多层次安全挑战。一是人工智能数据和算法安全风险更加突出。新基建战略的实施将加速人工智能技术以开源开放的平台、算法包、模型库等形式,向社会提供开放共享的普惠性服务。但是,受限于人工智能数据安全保护技术和机制尚不健全成熟,用户上传至平台的数据面临被第三方窃取、隐私泄露等风险。此外,第三方预训练人工智能算法包面临恶意提供者嵌入新型后门和木马的安全风险[4]。此类安全风险非常隐蔽,用户难以检测发现,给后续人工智能应用带来安全隐患。二是人工智能外部安全攻击威胁更加严峻。新基建推动人工智能基础平台向行业应用平台加速演进,人工智能技术在交通、医疗、金融等行业应用持续深化,广泛赋能云侧平台和端侧设备。由此,人工智能产品外部攻击面不断延展,受攻击的可能大大增加,不良分子可从智能终端等安全防护薄弱环节实施攻击,通过劫持终端入侵系统,进而威胁云侧人工智能基础设施安全。

4  从治理体系看,人工智能新基建带来安全治理新问题

从国家发展和改革委员会对于“新基建” 概念界定来看,基于人工智能的融合基础设施成为未来经济社会发展的重要支撑,将催生出大量的经济新业态和商业新模式[5]。但是,融合基础设施以及构建在其上的智能应用的安全监管工作会涉及到政府多个管理部门,原有基于传统行业界限的部门管理职责划分将无法适用新技术发展。例如,智能网联汽车的安全监管会涉及国家多个部委,各部门会结合自身原有职责从不同维度和切入点开展监管工作,难免出现交叉监管、监管空白等机制体制问题。

另外,人工智能深度学习算法的不透明性、难以追责等问题,给现有安全监管技术带来较大挑战,如何对人工智能安全风险实时监测和及时处置,成为安全治理机制建设的重点内容。随着人工智能技术的快速发展和应用场景的不断泛在,亟需加强部门统筹协同、创新监管机制手段,以保障人工智能新基建的顺利推进。

来源:网络