作者： 联盟秘书处

人工智能（AI）技术蓬勃发展的当下，其所带来的数据安全问题成为人们关注的焦点。2024年6月5日，以“AI驱动安全”为主题的2024北京网络安全大会在京举行，与会嘉宾围绕人工智能发展分享研究和实践经验，就AI如何驱动安全展开广泛讨论。

AI的安全风险：留意“后门”

AI技术的发展极大促进了效率的提升，随着应用场景愈加广泛，面临的安全挑战更加复杂，各类攻击威胁也与日俱增。

根据奇安信发布的《2024人工智能安全报告》，AI既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件数量增长了1000%。一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示，安全性是受访者最关心的问题，71％的受访者认为生成式人工智能会给企业数据安全带来新的风险。

AI系统往往需要大量数据来迭代大模型，这必然涉及个人敏感信息。保护用户隐私、防止数据泄露存在不可忽视的安全风险。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东举了个生动的例子，“AI如果不是自己‘生’的，而是从外面‘领养’回来的，那么AI是否会有‘后门’，AI是否会被人‘投毒’，都无从得知，甚至没有能力发现，这是数据安全带来的潜在风险。”

去年以来，随着以ChatGPT为首的AI热潮席卷而来，还产生了新的网络安全问题。齐向东解释，如果把AI比作超级人脑，向它提问时输入的内容越多，得到的建议就越精准、越有价值。如果你的提问毫无保留、倾囊相授，那么AI通过学习，实际可能拥有比你更强的能力。此外向AI提问还可能泄露专有知识产权、发明和商业秘密等，让竞争对手从AI处得到更优的方案。这是与AI交流过程中，新产生的引发数据安全问题的特殊场景。

与会嘉宾认为，使用AI过程中的风险责任归属也是一个复杂的问题，目前法律和政策尚不能明确在AI决策过程中各方的责任。

AI驱动网络防护能力在博弈中快速迭代

“AI驱动安全是大势所趋，未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇，谁就能掌握网络空间安全的主动权。”在主旨演讲中，齐向东判断，当前网络安全格局正在被颠覆重构，但这种颠覆重构不仅带来新的安全挑战，也为网络安全行业带来前所未有的战略机遇。

与会嘉宾们认为，目前AI尚处在伦理和规则出现前的发展阶段，正朝着人工智能与网络安全深度融合的发展方向前进。网络安全是高度对抗性的行业，所有的攻击都是新的。实践中网络攻击层出不穷、日新月异，AI安全防护能力也在攻守迭代中不断推陈出新、更新升级。

国家电网有限公司副总信息师、中国电机工程学会会士王继业介绍了国家电网探索人工智能在“守护网络安全，助力能源转型”中的最新实践。国家电网依托大数据平台，加强人工智能与网络安全的融合，研究基于人工智能的风险异常检测方法，开展网络安全关联分析、事件处置和调查溯源，强化网络安全威胁监测和应急处置，实现网络安全事件的智能响应、联动防御。

AI还被应用于驱动智能攻防，助力企业的安全能力在博弈中快速演进迭代。齐向东介绍，AI在网络安全领域的应用已经可以覆盖网安前中后多个阶段，并带来网络防护能力数十倍乃至上千倍的提升。例如，在单点设备的监测上，AI可以带来安全能力百倍级提升。体系化防御的核心，是多种网络安全设备的有机结合。由于不同产品之间的数据传输共享、相互访问、远程操作非常频繁，漏报和误报问题在这一阶段呈现指数级增长。AI不仅可以知道在什么场景下、去调哪个接口、取什么数据，还能根据实际变化进行动态调整，瞬时激发各个设备的安全能力，将遗漏的威胁从10%降低到千分之一，达到安全能力百倍级提升。

“AI作为网络安全的驱动力，可帮助专家快速识别、追溯和处置安全威胁，提升网络安全防御的智能化水平。”中国电子信息产业集团有限公司总经理李立功对AI驱动安全的进一步落地应用充满了期待。

AI释放强大潜能 成为驱动新质生产力的重要引擎

“人工智能是新质生产力，智能化大势不可阻挡。不发展是最大的不安全，要不断发展AI促安全。”2024北京网络安全大会上，中国新一代人工智能发展战略研究院执行院长龚克呼吁推进AI与网络安全融合创新。

龚克认为，人工智能本身需要解决关键技术和颠覆性技术的创新，同时也成为各领域创新的基础，如生物医药、生命科学、新材料，这些创新都依赖于人工智能的应用。龚克表示，“人工智能正与千行百业紧密融合，成为驱动新质生产力的发动机，我们既没必要神话AI，也没有必要妖魔化。”

在他看来，一方面，人工智能的发展推动了网络安全技术的创新。例如，基于深度学习的恶意软件监测、用户行为分析等新技术不断涌现，提高了网络安全的防护能力。另一方面，人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化监测、响应和风险评估等流程，可以更快地应对网络威胁，减少潜在损失。

随着网络安全领域智能化产品落地，相关市场的规模快速增长。有关统计显示，网络安全领域的人工智能产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元，预测期内的复合年增长率为31.38%。

据北京市政府副秘书长许心超介绍，北京市已将数字安全产业作为全市重点发展的高精尖产业，目前已经汇聚数字安全企业1025家；2023年北京市数字安全企业收入达到996亿元，产业带动作用凸显。

人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的重要驱动力量。与会专家期待，人工智能在网络安全的护航下，为千行百业带来更多革命性的变化，不断激发创新活力和社会潜能。

2024年5月29日，联盟特邀深圳开源互联网安全技术有限公司副总经理王颉，在重庆人文科技学院举办“软件供应链安全现状、发展及人才培养”讲座。
讲座围绕软件安全基本知识、软件供应链安全国内外现状、软件供应链安全国标框架及要点、建设实践、软件供应链安全人才培养模式等方面进行了深度阐述。

重庆人文科技学院与深圳开源互联网安全技术有限公司进行了产学研基地授牌仪式。

联盟秘书长马传龙、重庆人文科技学院计算机工程学院副院长金维宏参加了此次活动。

主讲人介绍

为深入落实《“十四五”国家信息化规划》《国家标准化发展纲要》任务部署，近日，中央网信办、市场监管总局、工业和信息化部联合印发《信息化标准建设行动计划（2024—2027年）》（以下简称《行动计划》），要求加强统筹协调和系统推进，健全国家信息化标准体系，提升信息化发展综合能力，有力推动网络强国建设。

《行动计划》强调，信息化标准是国家标准体系的重要组成部分，是以信息化驱动引领高质量发展的重要支撑，要以习近平新时代中国特色社会主义思想特别是习近平总书记关于网络强国的重要思想为指导，深入贯彻党的二十大精神，认真落实党中央、国务院关于信息化发展和标准化工作的决策部署，完善信息化标准体系、提升标准化基础能力、健全工作机制、强化标准实施、增强国际影响力，以标准建设支撑引领信息化发展，为加快建设全国统一大市场，培育壮大新质生产力提供有力支撑。

《行动计划》提出，要坚持系统观念、坚持需求导向、坚持重点推进、坚持开放合作。到2027年，信息化标准工作机制更加健全，信息化标准体系布局更加完善，标准研制、服务等基础能力进一步夯实，发布一批高质量的信息化标准，形成一支专业化、职业化、国际化的标准化人才队伍，标准质量显著提升，实施效果明显增强，信息化标准在引领技术创新、驱动经济社会发展中的作用充分发挥，国际标准贡献度和影响力明显提升。

《行动计划》围绕4个方面部署了主要任务。一是创新信息化标准工作机制，包括完善国家信息化标准体系、优化信息化标准管理制度、强化信息化标准实施应用。二是推进重点领域标准研制，在关键信息技术、数字基础设施、数据资源、产业数字化、电子政务、信息惠民、数字文化、数字化绿色化协同发展等8个重点领域推进信息化标准研制工作。三是推进信息化标准国际化，包括深化国际标准化交流合作、积极参加国际标准组织工作、推动国际国内标准协同发展。四是提升信息化标准基础能力，包括优化标准供给结构、加强标准化人才培养、推动标准数字化发展。

《行动计划》从加强统筹协调、强化政策支持、营造良好氛围等3方面提出组织保障要求，确保目标任务落到实处。

检查设备，确保系统运行平稳顺畅……前些天，张波一直为成都第31届世界大学生夏季运动会的网络安全保障工作忙碌着。

张波是中国电信四川公司网络监控维护中心高级技师，已在网络安全的战场上守卫了13年，凭借精湛的技艺和严谨的态度，成功抵御无数次网络攻击，屡获网络安全技能竞赛大奖，2019年荣获第二届“四川工匠”称号。

对张波而言，网络安全是一个没有硝烟的战场，发扬工匠精神，就要做到万无一失，“因为一‘失’就意味着万‘无’”。

守卫网络安全14年

曾避免5000万用户遭受损失

张波说话时常带笑容，但谈起网络技术，他便神情严肃，条分缕析。作为网络技术专家，张波已拥有了CISSP（国际注册信息系统安全专家）、CISP（注册信息安全专业人员）、HCDP（华为认证数据通信资深工程师）、RHCE（红帽认证工程师）等称号。

2010年，那时国内的网络安全还处于起步阶段。随着互联网快速普及，需要防护的网络设备日益增多，种类也愈加复杂。没有专业人员、没有专业设备，张波勇挑大梁，苦练本领。他仍记得2012年冬天和同事一起在北京地下室里学习网络安全技术的日子，他们每天学习，做实验到深夜，再步行回住处，通过高强度训练不断完善知识和技术储备。

钻研网络安全技术，守护网络安全，张波坚持了14年，经历过无数次网络攻防战。他印象最深的，还是打赢“想哭”的那一仗。2017年5月，“想哭”勒索病毒席卷全球，150多个国家和地区遭受攻击，只有支付高额赎金才能解除病毒的侵扰。针对勒索病毒，张波和他的团队防患于未然，2012年起，他们从端口研究防御各种病毒侵袭的办法，其中就包含对类似勒索病毒的封堵。当“想哭”袭来，张波和团队制订的近40种网络安全管理和技术规范以及数以万计的安全防护策略如期发挥作用，成功拦住“想哭”病毒，避免了5000万用户遭受损失。

荣誉挂满一面墙

守护网络安全的初心未改

四川省第一届网络安全职业技能竞赛团体一等奖、个人一等奖，四川省2017年网络安全职业技能竞赛暨大学生信息安全技术大赛团体一等奖、个人一等奖……在张波网络安全创新工作室，一面荣誉墙格外亮眼。

守护网络安全不仅靠个人的“一枝独秀”，更依赖团队协作的“满园春色”。2019年6月，张波牵头建立了张波网络安全创新工作室，发展至今团队已有53名成员，平均年龄36岁，涵盖省公司10个部门和14个市州分公司，成为四川电信网络安全技术攻坚、产品研发、新技术应用、人才培养的基地。2021年，张波网络安全创新工作室被省总工会命名为“四川省劳模和工匠人才创新工作室”。

“指定专门的老师，制订个性化培养方案，加强专业技术培训考证，并让他们去尝试授课，全方位提升能力。”张波告诉记者，团队制订了完善的“传帮带”体系，一如既往地保持高标准严要求，在网络安全守护中始终做到“精细、精准、可管、可控”。在技术攻坚上，他们致力于解决电信网络安全疑难问题，开展前沿技术研究，推动网络安全防御创新，逐步实现网络安全管理中“管理、技术、人”的高效协同。

“网络安全守护是一场永不停息的‘战争’，它的技术范围涉及非常广，要不断学习，更新知识。”张波感慨，从事网络安全的十多年里，互联网世界一直不断变化，当前AI技术的广泛运用更带来许多新挑战。他和他的团队将加倍努力更新知识与技术，“为公司打造服务型、科技型、安全型企业保驾护航，为建设网络强省、数字四川作出更大贡献”。