作者: 联盟秘书处

  • DeepSeek引发的AI创新和开源生态发展的思考

    DeepSeek引发的AI创新和开源生态发展的思考

    发布日期:2025-03-27

    2025蛇年春节前后,杭州深度求索人工智能基础技术研究有限公司(以下简称“DeepSeek”)发布的开源大模型引起了国内外广泛关注。首先是模型基准测试性能与世界领先的OpenAI闭源模型GPT-4o比肩,其次是训练成本相比其他模型大幅降低,且带思考链的推理模型R1及其蒸馏版本可以在多种计算能力设备上部署,最后是其代码、文档、模型权重等在MIT许可协议(极为宽松的一种开源许可协议)下完全开源。这一套集高性能、低成本、开源开放于一体的“组合拳”,使得DeepSeek在短时间内成为国内外人工智能(AI)领域的焦点,后续接踵而至的各行各业推广部署,让大模型应用在中国真正实现了“飞入寻常百姓家”。

    大模型从形态上是一种软件。虽然模型文件通过训练生成,通过参数和数据迭代,以概率性输出结果,无法精确断点调试,黑盒特征明显;但与传统软件一样,它可复制、可复用,需要操作系统提供运行环境,需要存储系统,需要处理用户输入并输出反馈。因此,DeepSeek大模型这一来自中国本土的技术创新和开源开放实践,也为中国软件行业提供了可深入分析并学习借鉴的模式。

    本文将DeepSeek的创新模式归纳为“以软补硬”“开源传播”和“生态优先”。同时,也从生态入口、开源软件供应链、开源基础设施3个方面,分析当前我国AI开源创新仍然面临的问题和风险。最后从大模型操作系统布局、软件供应链保障、开源基础设施建设、软硬件协同发展4个维度,提出加强我国科技基础能力的建议,以期更好支撑中国创新团队的长足进步发展,不断抢占AI和软件领域的全球科技制高点。

    一、DeepSeek的创新模式分析

    1.1“以软补硬”开辟大模型创新路径

    在算力资源受限的背景下,DeepSeek通过软件架构创新和算法优化,使其模型在保持高性能的同时,大幅降低了对硬件投入的依赖,并为全球开发者提供了可复现、可负担的“以软补硬”技术方案。这让近年来大模型领域普遍推崇的规模定律(scaling law)出现了拐点,依赖大规模硬件投资建立的算力垄断“高墙”出现了缺口,大模型研究和应用的门槛被大大拉低,资源有限的中小企业、研究机构甚至个人,都迎来了AI创新和AI赋能的可能性。

    软件在这一轮大模型浪潮中往往被忽视。事实上,对于硬件架构确定、优化目标明确的场景,软件改进带来的总体收益通常大于硬件。2017年图灵奖获得者汉尼斯和帕特森于2018年4月在国际计算机学会(ACM)做获奖演讲时,给出了用不同编程方法计算两个4096×4096矩阵相乘的性能对比,该数据引用了美国麻省理工学院(MIT)计算机科学与人工智能实验室(CSAIL)雷瑟斯等人发表在Science上的文章There’s plenty of room at the Top: What will drive computer performance after Moore’s law?(《顶端仍大有可为:摩尔定律之后什么将驱动计算机性能发展?》,这里的“顶端”指代软件),具体对比数据见表1。从表中可以看到,用C语言编写比Python要快47倍,分治法并行优化后可得到6727倍的加速,而采用SIMD指令集则可加速6万多倍。同样,DeepSeek使用英伟达PTX,即介于CUDA高级编程语言和实际GPU机器代码之间的中间代码表示语言,也起到了极大的加速效果。

    在过去几年中,华为鸿蒙操作系统同样采用了“以软补硬”的方法,在处理器制程受限的情况下,通过操作系统、编译器、渲染引擎等多种软件优化手段,在手机上保持了良好的用户体验。

    更重要的是,软件优化方案为快速传播奠定了基础。软件之于硬件的一大优势,就是传播的便捷和迅速,通过网络下载就可以快速到达最终用户。试想,如果这次DeepSeek发布的是“星际门”一样的硬件堆叠方案,又或是使用了某种硬件加速方案(如同当年谷歌为深度神经网络专门设计的TPU),将很难如此快速传播推广。

    1.2以开源开放实现用户高速增长

    软件的核心竞争力是用户。大规模、高质量、多样化的用户群体,不仅是软件价值变现的坚实基础,更是推动软件持续迭代创新的强劲动力。正如中国科学院计算技术研究所包云岗研究员所说,在开源模式下,软件的价值计算和传播效应遵循梅特卡夫定律(Metcalfes Law),即网络的价值与网络中用户数量的平方成正比。

    具体表现为两个方面:

    • 一是用户规模效应:用户越多,价值越大,反馈和改进更多,生态系统更丰富。
    • 二是网络效应:更多开发者参与,就会有更多的应用场景,继而更快的迭代速度。当众多用户转变为开发者和测试者,就会极大地降低软件开发测试成本,驱动软件升级演化和价值提升,继而吸引更多的开发者参与,形成持续的良性循环。

    前面提到大模型本身也是一种软件,因此开源软件曾经创造的发展模式,完全可以被大模型所复用。然而,DeepSeek开源模式创造了比传统软件更为迅速的用户增长奇迹。据统计,DeepSeek连续登顶苹果App Store和谷歌Play Store全球下载榜首,上线18天累计下载量突破1600万次,远超Chat-GPT发布首月的900万下载量。其中固然有大模型概念热度的加持,但更有DeepSeek几乎毫无保留地开放了模型文件、权重文件、核心代码和技术文档的原因。由此在短短半年内吸引了全球超过百万开发者,建立了活跃的开发者社区,不仅贡献了大量的代码和工具,还形成了自发的技术交流和学习氛围,例如GitHub上DeepSeek所维护的awesome-deepseek-integration页面。这种社区驱动的创新模式,为AI技术的快速迭代和应用落地提供了强大的动力。DeepSeek的经验也表明,即便在AI时代,开源开放仍然比封闭垄断更具竞争力。

    1.3以标准化接口和工具构建上下游生态

    DeepSeek在建立生态方面同样展现出了很高的效率,在短短一个月内,DeepSeek R1从满血版671B到70B、32B、7B甚至1.5B等大小不同模型得到快速部署,大到云服务厂商、互联网巨头、国资央企、高校院所,小到街道办、实验室、个人用户等,从制造业到服务业,从教育到医疗,DeepSeek渗透到各行各业,推动效率提升和智能化转型。

    生态快速壮大背后则是其对调用接口和AI软件工具包的标准化,以及因此而快速聚集的上下游生态伙伴。标准化调用接口简化了AI应用的接入流程,使得DeepSeek很容易被Ollama、vLLM、SGLang等大模型服务框架所支持,也使得ChatBox、AnythingLLM等大模型入口应用能够很快接入DeepSeek。标准化软件工具包大幅降低了AI应用部署门槛,同时还提供了丰富的预训练模型和数据集,使得开发者可以通过领域精调和检索增强生成(RAG)实现自身业务需求,进一步开展应用创新;同时,使得华为昇腾、寒武纪等其他非英伟达芯片能很快完成适配,形成百花齐放的国产软硬件协同适配景象。

    从更宏观的生态视角看,DeepSeek已经在中国建立了事实上的大模型标准。自从2020年底Chat-GPT发布以来,无论美国还是中国都进入了“百模大战”的格局,尽管OpenAI引领了发展,建立了提示词工程(Prompt Engineering)等事实标准,但因其选择闭源策略,且其最大投资者微软公司的Windows操作系统同样闭源,使得“应用—模型—系统—硬件”生态链路参与者无法自主开展大模型和系统的适配,阻碍了参与者的参与意愿和创新动力。例如,对于大量非英伟达的硬件加速卡厂商来说,因为无法修改基础模型和相关代码,只能模拟与转译英伟达GPU指令集,无法实现与模型的原生适配;对于亚马逊、谷歌、阿里等云平台服务商来说,由于与微软Azure的竞争关系,也无法与OpenAI实现充分的业务整合。

    DeepSeek开源发布之后,不仅出现了微信、WPS等应用整合,也出现了华为云、阿里云、腾讯云等服务集成,还出现了华为昇腾、寒武纪、沐曦、海光、申威等硬件原生适配,甚至出现了大量本地部署的一体机解决方案。以DeepSeek为大模型事实标准,中国正在形成“应用—模型—系统—硬件”全链路的生态聚集。长远来看,这一变化必将重塑中国乃至全球AI的发展格局。

    二、我国AI开源创新面临的风险挑战

    在看到DeepSeek成功一面的同时,还需要看到当前中国AI开源创新面临的一些风险挑战。

    2.1大模型入口程序的风险

    所谓大模型入口程序,对于部署者是指Ollama、SGLang、vLLM等大模型服务框架程序,用来启动大模型服务进程;对于用户是指通过封装多个大模型服务,为用户提供更加方便易用、灵活可配置的交互界面程序,如ChatBox、AnythingLLM等。

    以Ollama为代表的大模型服务框架,在启动大模型服务时通常以网络守护进程的方式出现,会打开某个端口并监听来自网络的服务请求。这样的守护进程一旦出现漏洞,攻击者很容易通过服务端口入侵服务主机。事实上,近期已经发现了Ollama导致的、可被利用的大模型服务漏洞。

    而对于用户交互的入口程序来说,尽管ChatBox等通过开源来证明自身程序的安全性,但无法证明用户隐私数据的安全性,毕竟所有的对话信息都会被入口程序转发和截取。

    对主流入口程序的掌控和主导,会成为大模型竞争的焦点之一,但目前为止,大模型的入口程序还是运行在已有主流操作系统之上,因此操作系统不自主可控的风险将会延伸到大模型入口程序,毕竟操作系统很大程度上决定了谁能成为入口,20世纪90年代网景公司NetScape浏览器在与微软IE浏览器竞争中败北就是前车之鉴。

    2.2软件供应链的安全可靠风险

    DeepSeek的开发依赖大量开源或闭源组件。例如:基础框架中的PyTorch深度学习框架、CUDA GPU加速库;训练相关的Megatron-LM分布式训练框架、Flash Attention高效注意力机制;推理优化相关的FasterTransformer推理加速引擎、TensorRT推理优化库、ONNX模型转换标准库;工具链中的版本控制Git、容器化部署Docker;数据处理中的NumPy数值计算库、pandas数据处理库,以及HuggingFace数据集管理工具等。

    以上仅是基于公开信息的判断,实际使用的工具可能更多,有些专有工具可能未公开。而在这些互相高度依赖的软件供应链中,有些关键环节仍然被Meta公司等国际竞争对手掌控(如PyTorch开发框架,以及前面所述的Ollama入口程序),或属于某家公司私有产品(如英伟达CUDA),均存在断供可能。此外,根据奇安信的最新报告,已出现一些专门针对DeepSeek的供应链伪造或投毒攻击。这些都构成了我国AI面临的软件供应链安全可靠风险。

    健康的大模型生态需要一个同样健康的开源软件生态。对于软件供应链,特别是开源软件供应链关键节点的认真梳理和持续维护,仍然是企业和行业,甚至国家实现人工智能高水平科技自立自强必须要付出的投入。

    2.3开源基础设施的风险

    不仅DeepSeek,国内主要开源大模型项目几乎都选择在美国微软公司旗下的GitHub平台发布,这是因为GitHub全球开发者集中度最高,有完整的开源基础设施能力、成熟协作工具链和已经发展壮大的程序员社交网络,因此国际影响力更大,更有利于项目推广。然而,选择GitHub未来也面临挑战和风险,包括但不限于地缘政治风险、数据主权问题、潜在的访问限制风险等。这并不是DeepSeek和国内开源项目维护者的问题,而是国内缺乏与GitHub竞争的开源基础设施,从设施完善程度、开发者聚集规模、国际化程度、运营能力等,国内现有基础设施与GitHub相比都存在较大差距。

    Hugging Face近年来随着大模型爆发而异军突起,成为全球最流行的模型托管平台,国内的阿里魔搭等平台虽然已经起步并初具规模,但与Hugging Face相比,同样在功能、规模、国际化、运营等方面存在显著差异。

    三、加强我国AI创新能力的建议

    基于以上分析,本文提出加强我国AI创新能力的如下建议。

    3.1尽快启动大模型操作系统的研发探索。

    大模型仍然以软件的形态存在于现有操作系统生态体系,虽然出现了ChatBox等新的入口程序,但不足以撼动Windows、iOS、Android的生态主导地位。美国苹果公司和我国华为公司先后提出了面向意图的开发框架,旨在整合大模型的能力,继续掌控用户入口。微软公司通过预装Copilot并与办公套件、浏览器等深度捆绑,巩固其桌面领域垄断地位。上海交通大学陈海波团队提出了大模型操作系统的3种技术路线,即渐进路线(大模型作为操作系统外挂组件)、激进路线(大模型即操作系统)和融合路线(大模型与操作系统深度融合),并建议采用融合路线,从而在利用大模型能力的同时,最大程度兼容现有操作系统应用生态。鉴于大模型带来的机器智能跃升和交互范式变革,无论采用何种路线,大模型操作系统研发工作都迫在眉睫。随着大模型和操作系统各自发展,不同技术路线会自然合并,然而一旦错过生态初始构建的机会窗口期,将面临新的、更难突破的生态垄断。

    3.2加强开源软件供应链治理。

    开源软件已经成为组装大型复杂系统软件的“原材料”和“元器件”。一个Linux开源操作系统发行版(如Debian、openEuler等)往往包含上万个开源组件,通过这些组件的彼此依赖关系编译组装而成。一个大模型从开发、训练到部署、运行、推理,也依赖于大大小小的开源组件。随着大模型成为像操作系统一样的战略基础软件,其开源软件供应链的保障必不可少。中国科学院软件研究所从2019年发起“开源软件供应链点亮计划”,梳理全球开源软件知识图谱,找出操作系统等大型复杂基础软件的关键供应链节点,通过“开源之夏”等活动,持续培养能够看护关键开源软件的高水平人才。建议围绕大模型的开源组件依赖情况,持续梳理开源软件供应链,对其中关键节点进行重点布局,投入或培养相应的人力资源,确保具备持续开源维护的能力。

    3.3加快对标GitHub和Hugging Face的开源基础设施建设。

    面对GitHub和Hugging Face托管平台的垄断局面,一方面继续完善现有国产代码托管平台,提升平台稳定性和功能完整度,优化开发者体验。另一方面也要有过渡策略,采用多平台同步策略,建立战略备份机制。从2019年中国科学院软件研究所启动建设“源图”开源软件供应链基础设施,迄今已形成对全球关键开源软件的全量备份,并提供可信软件仓、可信编译构建环境等平台服务。后续还需要面向大模型的新需求、新场景,加快打造新一代开源开发基础设施,联合国内优势力量逐步培育本土开源基础设施生态,并以更加开源开放的模式,吸引国外机构和开发者参与,共同对冲潜在的地缘政治风险。

    3.4加大开源软硬件协同力度。

    在新一届美国政府不断升级管控施压的背景下,英伟达GPU硬件供应限制和CUDA软件生态壁垒,已经成为中国实现AI领域高水平科技自立自强面临的最主要障碍之一。例如,DeepSeek训练优化所使用的PTX仍然属于CUDA生态体系。建议加大RISC-V开源指令集下软硬件协同,特别是AI相关扩展指令集的协同力度。RISC-V指令集的崛起,不仅为了从指令集层面打破x86/ARM的生态垄断,同时也有望打破英伟达GPU私有指令集和私有算子的垄断。随着RISC-V向量指令集、矩阵/张量指令集的制订和完善,新的软硬件接口标准规范有望取代CUDA私有接口规范,并配合编译器等在RISC-V专用AI加速卡上实现软硬协同。一旦某款RISC-V加速卡在性能功耗比上超越英伟达的旗舰GPU,整个RISC-V生态也将迎来“DeepSeek时刻”。

    需要强调的是,以上风险分析和建议,并非为了形成封闭的、防御式的技术体系,而是为了中国乃至全球都有更为开源开放的选择,平等参与AI新技术、新产品、新服务的研发应用,共同打造AI时代的人类命运共同体。

    武延军 中国科学院软件研究所副所长、研究员。开放原子开源基金会开源安全委员会主席,中国计算机学会开源发展委员会执行委员。主要研究方向为操作系统。

    文章源自:武延军. DeepSeek引发的AI创新和开源生态发展的思考. 中国科学院院刊, 2025, 40(3): 446-452, doi: 10.16418/j.issn.1000-3045.20250225007.

  • 国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》

    国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》

    发布日期:2025-03-21

    近日,国家互联网信息办公室、公安部联合公布《人脸识别技术应用安全管理办法》(以下简称《办法》),自2025年6月1日起施行。

    国家互联网信息办公室有关负责人表示,人脸识别技术应用与人脸信息安全紧密相关,受到社会各方高度关注。为了规范应用人脸识别技术处理人脸信息活动,保护个人信息权益,国家互联网信息办公室、公安部联合出台《办法》,对应用人脸识别技术处理人脸信息的基本要求和处理规则、人脸识别技术应用安全规范、监督管理职责等作出了规定。

    《办法》明确了应用人脸识别技术处理人脸信息的基本要求。应用人脸识别技术处理人脸信息活动,应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,诚实守信,履行个人信息保护义务,承担社会责任,不得危害国家安全、损害公共利益、侵害个人合法权益。

    《办法》明确了应用人脸识别技术处理人脸信息的处理规则。一是应当具有特定的目的和充分的必要性,采取对个人权益影响最小的方式,并实施严格保护措施。二是应当履行告知义务。三是基于个人同意处理人脸信息的,应当取得个人在充分知情的前提下自愿、明确作出的单独同意。基于个人同意处理不满十四周岁未成年人人脸信息的,应当取得未成年人的父母或者其他监护人的同意。四是除法律、行政法规另有规定或者取得个人单独同意外,人脸信息应当存储于人脸识别设备内,不得通过互联网对外传输。除法律、行政法规另有规定外,人脸信息的保存期限不得超过实现处理目的所必需的最短时间。五是应当事前进行个人信息保护影响评估,并对处理情况进行记录。

    《办法》明确了人脸识别技术应用安全规范。一是实现相同目的或者达到同等业务要求,存在其他非人脸识别技术方式的,不得将人脸识别技术作为唯一验证方式。国家另有规定的,从其规定。二是应用人脸识别技术验证个人身份、辨识特定个人的,鼓励优先使用国家人口基础信息库、国家网络身份认证公共服务等渠道实施。三是任何组织和个人不得以办理业务、提升服务质量等为由,误导、欺诈、胁迫个人接受人脸识别技术验证个人身份。四是在公共场所安装人脸识别设备,应当为维护公共安全所必需,依法合理确定人脸信息采集区域,并设置显著提示标识。任何组织和个人不得在宾馆客房、公共浴室、公共更衣室、公共卫生间等公共场所中的私密空间内部安装人脸识别设备。五是人脸识别技术应用系统应当采取数据加密、安全审计、访问控制、授权管理、入侵检测和防御等措施保护人脸信息安全。

    《办法》明确了监督管理职责。个人信息处理者应当在应用人脸识别技术处理的人脸信息存储数量达到10万人之日起30个工作日内向所在地省级以上网信部门履行备案手续。网信部门会同公安机关和其他履行个人信息保护职责的部门,建立健全信息共享和通报工作机制,协同开展相关工作。

    《办法》同时对违反《办法》规定的法律责任、相关术语的含义等作出了规定。

  • 联盟 2025 年第二次两长工作会议成功在联通(重庆)网络安全创新基地召开!

    联盟 2025 年第二次两长工作会议成功在联通(重庆)网络安全创新基地召开!

    发布日期:2025-03-16

    2025 年 3 月 14 日,联盟 2025 年第二次两长工作会议在联通(重庆)网络安全创新基地召开。

    会议由联盟秘书长马传龙主持,重庆信安网络安全等级测评有限公司、重庆计算机安全学会、重庆邮电大学、重庆中兴网信科技有限公司、重庆南华中天信息技术有限公司、北京启明星辰信息安全技术有限公司、西南计算机有限责任公司、绿盟科技集团股份有限公司、重庆市通信建设有限公司、重庆人文科技学院、联通(重庆)产业互联网有限公司等理事单位代表出席了本次会议。

    参会人员听取和审议了联盟2025年工作计划,围绕计划内容展开热烈讨论,提出了许多建设性意见,并探讨了联盟在当前形势下的发展方向与工作重点。

    联盟理事长周彦晖作总结发言,他指出联盟要充分发挥在供需对接、产学合作、技术方面的桥梁作用,发展垂直行业、科研院所的专业团队、产业服务机构等方面的会员,建立差异化的会员服务体系,多宣传会员单位的技术突破和典型案例,携手共进,共同提升联盟的行业影响力。

    参会人员共同参观了联通(重庆)网络安全创新基地,该基地展示了一系列先进的网络安全技术与解决方案,涵盖了数据安全防护、安全运营服务等多个领域。

    在2025年,联盟将继续举办AI、网络安全智能体、软件供应链安全等方面的讲座、研讨会和沙龙,联合主办“山城杯”大学生网络安全联赛,开展联盟成员交流合作轻享会,举办网络安全相关认证培训,做好重庆市网络安全人才调研工作等。

  • 《人工智能生成合成内容标识办法》答记者问

    《人工智能生成合成内容标识办法》答记者问

    发布日期:2025-03-14

    近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。日前,国家互联网信息办公室有关负责人就《标识办法》有关问题回答了记者提问。

    一、问:请介绍一下《标识办法》的出台背景?

    答:近年来,人工智能技术快速发展,为生成合成文字、图片、音频、视频等信息提供了便利工具,海量信息得以快速生成合成并在网络平台传播,在促进经济社会发展的同时,也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题,引发社会各界的关注关切。经深入开展调研、广泛征求意见、多轮技术论证试点,国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局制定了《标识办法》,进一步规范人工智能生成合成内容标识活动。

    《标识办法》聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

    二、问:请问制定《标识办法》的总体思路是什么?

    答:一是细化已有规定。《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》中提出了标识有关要求,《标识办法》作为规范性文件,进一步细化标识的具体实施规范。二是解决关键问题。《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。三是统筹发展和安全。考虑人工智能技术发展需要,针对在文本内容中添加隐式标识,在多媒体文件中添加数字水印,仍是技术难点或可能增加企业成本,不作强制要求。为降低平台企业标识成本,提升落地实施的可操作、可执行性,创新提出文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法。四是管理要求与技术标准一体化考虑。为推动《标识办法》落地实施,强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同步发布,更好地指导相关主体规范开展标识活动。

    三、问:《标识办法》适用范围是什么?

    答:《标识办法》规定,符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动,适用本办法。

    同时,《互联网信息服务深度合成管理规定》第二条明确“法律、行政法规另有规定的,依照其规定”,《生成式人工智能服务管理暂行办法》第二条第二款明确“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定”。《标识办法》同样遵照上述适用条款,开展特定活动对内容标识另有规定的,从其规定。

    四、问:请说明一下《标识办法》与强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》的关系?

    答:《标识办法》主要从立法层面提出管理要求,明确生成合成内容制作传播各主体的责任义务,为促进人工智能技术创新发展,对具体实施操作不做要求。《网络安全技术 人工智能生成合成内容标识方法》以强制性国家标准形式制定实施,主要提出强制执行部分的标识具体实施方式和操作方法,两者同步推出,于2025年9月1日同步实施,以更好地指导相关主体规范开展标识活动。

    、问:强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》的主要内容?

    答:标准支撑《标识办法》,对人工智能生成合成内容服务提供者与网络信息传播服务提供者提出了内容标识方法的具体要求。一是明确人工智能生成合成内容服务提供者对文本、图片、音频、视频、虚拟场景等内容,添加文字、角标、语音、节奏等显式标识的方法,在内容生成合成环节提出了显著提示公众、防范混淆误认的方案。二是明确服务提供者在文件中添加元数据隐式标识的方法,为内容传播服务提供者有效识别生成合成内容提供便捷方案,也为内容传播服务提供者履行向公众提醒提示主体责任提供了依据。三是在元数据隐式标识设置了预留字段,可用于记录标识完整性、内容一致性等安全防护信息,为促进标识技术创新发展和保护标识安全性预留了空间。

    六、问:《标识办法》明确了服务提供者哪些具体要求?

    答:《标识办法》明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识;应当在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息;应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

    七、问:《标识办法》明确互联网应用程序分发平台应当采取哪些措施规范人工智能生成合成服务?

    答:《标识办法》第七条明确,互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料。

    八、问:如何合规获得没有添加显式标识的生成合成内容?

    答:前期,国家互联网信息办公室出台的《互联网信息服务深度合成管理规定》第十七条针对“可能导致公众混淆或者误认的”深度合成服务情形提出显著标识要求。在此基础上,《标识办法》第四条进一步明确了针对文本、音频、图片、视频、虚拟拟真等具体场景的显式标识要求,确保生成合成内容在面向公众时具有满足要求的显式标识。

    此外,充分考虑生成合成内容在实际场景中的落地应用,积极回应社会关切和产业需要,《标识办法》第九条提出,在用户主动要求提供未添加显式标识内容时,网站平台在不违反相关法律法规要求前提下,可通过在用户协议中明确责任义务并依法留存相关日志信息后,面向用户予以提供。同时,用户在后续使用过程中,需遵守《标识办法》第十条等相关要求,主动声明生成合成情况并添加显式标识后,方可面向公众发布和传播。

    九、问:《标识办法》对规范开展标识行为明确了哪些具体要求?

    答:《标识办法》第十条明确任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

    十、问:关于《标识办法》和配套强制性国家标准的正式施行时间的考虑?

    答:坚持循序渐进的治理原则,考虑到企业需要时间充分理解相关规定和标准规范,针对性地开展能力建设和功能研发,基于标识技术实施的复杂程度、试点试行的实践经验,设定《标识办法》和配套强制性国家标准6个月左右的施行过渡期。

  • 中央网信办发布2025年“清朗”系列专项行动整治重点

    中央网信办发布2025年“清朗”系列专项行动整治重点

    发布日期:2025-02-21

    近年来,中央网信办持续部署开展“清朗”系列专项行动,集中时间、集中力量打击网上各类乱象问题,从严处置违规平台和账号,取得积极成效,形成有力震慑。2025年,“清朗”系列专项行动将进一步巩固提升治理成效,聚焦人民群众反映强烈的突出问题,在破解难点瓶颈方面下功夫,强化源头管理和基础管理;在治理创新方面下功夫,针对性细化每个专项打法举措;在维护网民权益方面下功夫,严厉打击各类侵权违法行为,营造更加清朗有序的网络环境。

    重点整治任务主要包括:一是整治春节网络环境,集中打击挑起极端对立、炮制不实信息、宣扬低俗恶俗、鼓吹不良文化、违法活动引流等问题。二是整治“自媒体”发布不实信息,包括发布干扰舆论、误导公众内容,不做信息标注、内容以假乱真问题,缺失资质、提供伪专业信息等问题,规范重点领域信息内容传播。三是整治短视频领域恶意营销,打击虚假摆拍、虚假人设、虚假营销、炒作争议性话题等问题,强化信息来源标注、虚构和演绎标签标注。四是整治AI技术滥用乱象,突出AI技术管理和信息内容管理,强化生成合成内容标识,打击借AI技术生成发布虚假信息、实施网络水军行为等问题,规范AI类应用网络生态。五是整治涉企网络“黑嘴”,处置集纳负面信息,造谣抹黑企业和企业家,从事虚假不实测评,诋毁产品服务质量等问题,进一步优化营商网络环境。六是整治暑期未成年人网络环境,强化涉未成年人不良内容治理,净化儿童智能设备、未成年人模式、未成年人专区等重点环节信息内容,防范线上线下交织风险。七是整治网络直播打赏乱象,打击利用高额返现吸引打赏、情感伪装诱导打赏、低俗内容刺激打赏、未成年人打赏等突出问题,加强直播打赏功能管理。八是整治恶意挑动负面情绪,包括借热点事件等挑起群体极端对立情绪,通过夸大炒作不实信息和负面话题,宣扬恐慌焦虑情绪,借血腥暴力画面挑起网络戾气等问题,严肃查处违规营销号、网络水军和MCN机构。

    中央网信办相关部门负责人表示,将有序推进“清朗”系列专项行动各项任务,同时,也会根据实际情况需要增加重点整治内容。将进一步压实各方主体责任,持续净化信息内容、规范功能服务,确保整治工作取得实效,推动网络生态持续向好。

  • 联盟成功举办2025年网络安全技术沙龙暨联盟两长工作会议

    联盟成功举办2025年网络安全技术沙龙暨联盟两长工作会议

    发布日期:2025-01-08

    1月8日,由重庆信息安全产业技术创新联盟、重庆计算机安全学会主办,重庆信安网络安全等级测评有限公司、绿盟科技集团股份有限公司、重庆奇安信科技有限公司、重庆市合川区网络安全学会协办的2025年网络安全技术沙龙暨联盟两长工作会议圆满举行。

    此次活动汇聚了众多网络安全领域的专家、企业代表,共同探讨数字安全面临的前所未有的挑战、AI应用于网络安全的前景、如何通过AI赋能安全运营等方面的问题。
    两长工作会议由重庆人文科技学院计算机学院副院长孙宝刚主持。在会议上,联盟秘书长马传龙汇报了联盟2024年度的工作和财务报告;随后,参会成员对理事会单位调整名单进行了审议表决;在自由交流讨论中,大家围绕联盟的发展、会员单位的迫切需求积极建言献策,提出了诸多宝贵的建议与具体措施。会议最后,理事长周彦晖进行总结发言,明确了联盟在2025年的工作重点和目标。

    网络安全技术沙龙由重庆计算机安全学会秘书长林已杰主持,重庆市密码管理局二级调研员查炳研发表了精彩致辞,为活动拉开序幕。

    在现场嘉宾的见证下,联盟为联通(重庆)产业互联网有限公司、重庆工程学院等9家新加入的单位举行了授牌仪式。

    绿盟科技高级网络安全顾问晏健晨带来《AI+网络安全的技术衍变》,深入剖析了人工智能与网络安全融合的技术发展脉络;西南大学人工智能学院副教授潘东波以《AI:网络安全的机遇与挑战》为题,阐述了人工智能给网络安全领域带来的机遇与挑战;奇安信行业技术总监周肆杰则在《AI技术发展与网络安全应用》的演讲中,分享了AI技术在网络安全实际应用中的成果与经验。
    自由讨论环节中,与会者积极互动,共同探索网络安全领域的前沿技术与发展路径。

    本次活动的成功举办,不仅加强了重庆信息安全产业技术创新联盟成员之间的交流与合作,更为重庆网络安全产业的发展搭建了一个高效的沟通平台,对推动重庆信息安全产业的创新发展具有重要意义。

  • 重庆市知识产权文化教育传播基地在重庆人文科技学院成功揭牌

    重庆市知识产权文化教育传播基地在重庆人文科技学院成功揭牌

    发布日期:2024-11-19

    11月19日,重庆市知识产权文化教育传播基地揭牌仪式在重庆人文科技学院成功举办。重庆市合川区市场监督管理局(区知识产权局)副局长高勇、重庆人文科技学院校长助理双海军出席并为基地揭牌,学校科研处和计算机工程学院党政班子参加了此次仪式。仪式由学校计算机工程学院副院长金维宏主持 。

    基地成立后,在合川区知识产权局的指导下和学校的支持下,将建设知识产权文化走廊和文化墙,成立知识产权宣传教育传播团队,创作教育和宣传文化作品,开展知识产权应用、转化等专题培训活动和研讨会,探讨知识产权热点问题、发展趋势以及政策导向,促进学术交流,实践知识产权应用和成果转化。

    下一步,基地工作将以规范化、科学化、规模化建设为原则,不断提升知识产权文化宣传教育水平,面向创新主体、社会公众等群体,强化知识产权文化宣传服务,真正成为推动知识产权文化教育的传播基地。

  • 网络安全人才培养调研系列活动——走进重庆水利电力职业技术学院

    网络安全人才培养调研系列活动——走进重庆水利电力职业技术学院

    发布日期:2024-11-14
    11月14日,联盟携会员单位重庆渝信网安科技服务有限公司走进重庆水利电力职业技术学院,进行网络安全人才培养调研,大数据学院副院长沈文武等人参与了交流。
    在本次调研中,联盟一行与重庆水电职院共同探讨了网络安全人才培养的前沿问题,双方就网安产业人才培养模式、信息安全专业建设、高校之间如何建立合作模式等方面进行了深入交流。

    此次调研旨在深化产教融合,探索网络安全人才培养新模式,联盟与重庆水利电力职业技术学院建立初步联系,为构建网络安全人才体系迈出坚实的步伐。

  • 《网络数据安全管理条例》学术沙龙成功举办,专家共话网络数据安全新挑战

    《网络数据安全管理条例》学术沙龙成功举办,专家共话网络数据安全新挑战

    发布日期:2024-11-11

    11月8日,《网络数据安全管理条例》(以下简称《条例》)学术沙龙成功举办,此次学术沙龙由重庆信息安全产业技术创新联盟、重庆计算机学会主办,重庆奇安信科技有限公司、重庆信安网络安全等级测评有限公司北京盈科(重庆)律师事务所、绿盟科技集团股份有限公司承办,秘书长马传龙主持。

    在沙龙上,专家们从管理层面、法律层面、技术层面审视了数据安全领域出现的新问题和新案例,提出了新的视角和动向,同时也提到了车联网等新技术、新应用的出现,为网络数据安全带来了新的挑战和机遇。

    北京盈科(重庆)律师事务所高级合伙人刘智发表了主题演讲《网络数据安全合规案例法律实务分享》,从实际案例出发,深入解读了《条例》对企业合规运营的具体要求,强调了企业在网络数据处理活动中应遵循的法律规范和合规操作的重要性。

    北京盈科(重庆)律师事务所高级合伙人刘智
    绿盟科技集团股份有限公司重庆代表处技术总监孙德福则在《基于<网络数据安全管理条例>探索数据安全防护思路》的演讲中,探讨了《条例》对数据安全防护提出的新思路和方法,强调了技术在数据安全防护中的关键作用。

    绿盟科技集团重庆代表处技术总监孙德福
    奇安信集团车联网安全专家刘厚兵在其主题演讲《车联网数据安全交流》中,分享了车联网领域数据安全的最新动态和挑战,以及如何根据《条例》加强车联网数据安全保护。

    随后,与会人员就高校网络安全数据培养课程建设与人才培养、企业网络安全数据规则制定等方面展开了自由讨论。
    联盟理事长周彦晖指出,当今网络安全数据的发展存在三个特征,一是快,数据发展快,数据和安全渗透到我们各行各业,范围广,变化快;二是新,数据安全涉及的技术新、应用新、案例新。从法律层面去看待一些新问题和新案例,也要以新的视角、新的动向和一些新的应用;三是高,网络数据安全在法律方面、监管方面、落地运营方面以及人才培养上都要求高。加上以前传统意义上的信息安全,网络安全,数据安全是一个大安全的概念,是一个综合安全,更多的要落实到综合性的业务安全来,目前更加需要学校和企业共同进行网络数据安全的人才培养。

    重庆信息安全产业技术创新联盟理事长周彦晖

    随着《网络数据安全管理条例》的即将实施,我国网络数据安全领域将迎来更加规范和严格的管理。此次学术沙龙的举办,为业界提供了一个宝贵的交流和学习机会,有助于各方更好地理解和适应新的法规要求,共同推动我国数字经济的高质量发展。