深圳电子展
2024年11月6-8日
深圳国际会展中心(宝安)

构建人工智能新基建安全保障体系思路建议

新基建为国家人工智能战略落地注入新动能,成为我国人工智能技术产业补短板、强弱项、促应用的新机遇。我国人工智能新基建面临着发展和安全、国内和国际、技术和治理等多维度挑战,为保障我国人工智能新基建顺利实施,亟需统筹考虑,加快推动人工智能核心技术创新、治理体系构建、安全能力提升以及国际合作深化,健全完善我国人工智能安全保障体系。

1  提升人工智能核心技术创新能力

一是立足自主创新补足技术短板。针对先进制程芯片、基础设计软件等“卡脖子”的关键核心技术环节,在新基建战略推进过程中,注重发挥国家和地方政府专项产业基金引导作用,鼓励龙头企业聚集产业链上下游公司联合开展短板技术攻关和国产化技术应用,缩短核心技术研发攻关周期。二是加强海外人才引进和本土人才培养。针对人工智能新基建面临的高端人才短缺困境,加速引入海外知名人才中介服务机构,创新海外高端人才柔性引进机制,授予国有企业更大的海外高端人才薪酬激励自由度。创新校企联合教育模式,以新基建需求为导向,增强交叉领域复合型人才培养。三是利用全球创新资源提升技术创新能力。利用我国超大规模市场虹吸效应以及持续优化的外资营商环境,吸引面向我国市场的海外人工智能软硬件企业加速在我国设立设计研发基地,增强我国人工智能产业整体技术创新能力。

2  建立多方参与的人工智能安全治理体系

一是政府发挥安全治理主导作用。整合多学科力量,加强人工智能新基建面临的法律、伦理、社会等方面的突出问题研究,建立涵盖政府、企业和社会各方的人工智能安全责任体系[6],制定出台人工智能安全治理政策指南,构建人工智能应用分级分类安全治理机制。二是企业践行安全治理主体责任。企业作为人工智能技术研发与应用的主要力量和一线实践者需承担治理主体责任。企业建立内部人工智能安全治理规范和制度,设立人工智能治理机构,从法律、伦理、社会等视角加强对各项人工智能应用的合理性审查,探索并实施算法偏见、算法黑箱、算法弱鲁棒性、数据隐私等问题的技术解决措施,加强出厂前人工智能产品安全性核实验证。三是社会加强安全治理监督。加快培育人工智能安全检测咨询服务机构,构建人工智能安全检测验证公共服务平台,依托行业联盟建立人工智能安全投诉举报、核实验证、公开曝光渠道。

3  健全人工智能安全技术保障能力

一是完善人工智能安全技术标准体系。制定出台人工智能安全标准体系框架,构建人工智能安全标准推进路线图,加快研制人工智能数据安全、算法模型安全、产品和应用安全、安全检测评估等亟需标准。在人工智能新基建先导应用领域,加强人工智能安全标准宣贯和试点验证。二是加强人工智能安全技术和产品研发。新基建规划加强了人工智能安全项目布局,针对人工智能新基建面临的突出算法和数据安全风险,鼓励人工智能企业和网络安全企业充分发挥各自优势,通过联合研发等方式,开展人工智能安全防御技术和产品攻关。三是加快人工智能安全保障技术平台建设。通过国家重点研发计划等专项资金,加快人工智能安全检测、监测预警、应急处置、追踪溯源等技术平台建设。

4  促进人工智能国际互信合作发展

一是增进人工智能发展国际互信。依托国际政府合作组织、标准化协会等,广泛分享我国人工智能新基建推进、融合应用以及安全治理工作的有益尝试和成功经验,参与或主导人工智能国际标准制定工作,推动形成人工智能发展和治理国际共识,增进国家间包容互信。二是加强人工智能新基建国际合作。鼓励国内人工智能龙头企业持续加强全球布局,开展国际业务,以东盟、亚太地区以及“一带一路”沿线国家为合作重点,努力向欧美市场拓展延伸,推进人工智能新基建全球化发展,为我国人工智能发展构建广泛生态系统和宽松国际环境。