人工智能算力基础设施安全发展研究

摘要

随着人工智能产业快速发展和向各领域不断渗透，算力已成为影响其发展与应用的核心因素之一。近年来，人工智能算力基础设施建设取得了长足进展，但由于其属性多样、节点复杂以及人工智能自身脆弱性等特性，已暴露出数据模型窃取、对抗样本攻击、节点不可信等安全问题，影响了用户信任。人工智能算力基础设施既是“基础设施”又是“人工智能算力”“公共设施”，具有基建属性、技术属性、公共属性三重属性。相应地，推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。

作者简介

张瑶： 张瑶，国家工业信息安全发展研究中心工程师，主要跟踪国内外人工智能、智能语音、计算机视觉等多个领域企业、战略规划和产业的发展动向，在人工智能产业发展、政策规划及安全、伦理、就业相关领域具有丰富的研究经验。

张振乾： 张振乾，博士，国家工业信息安全发展研究中心工程师，主要从事人工智能、机器人、智慧农业、物联网领域技术与战略研究。