今年7月，习近平主席出席2026世界人工智能大会暨人工智能全球治理高级别会议开幕式并发表主旨讲话指出：“当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？这些问题需要国际社会深入思考、共同作答。”这一重要论述体现了对人工智能发展趋势的深刻洞察、对智能时代治理挑战的重大关切，为统筹人工智能发展与安全、完善网络安全治理体系提供了重要指引。
人工智能是新一轮科技革命和产业变革的重要驱动力量，机遇与风险总是相伴相生。坚持以人民为中心的发展思想，运用系统观念统筹发展和安全，构建全民参与、协同共治的网络安全人民防线，有助于推动数字技术发展成果更多更公平惠及全体人民。随着人工智能技术快速迭代演进，机器不再只是被动执行指令的工具，而是逐步具备自主学习、自主研判的能力。当机器具备了这样的能力，风险也随之而至，比如，一旦出现失控，部分智能体可能在任务执行过程中自主推演路径，越界访问民生保障信息系统，获取海量医疗、社保等个人信息，威胁群众信息安全。
如今，网络安全不再仅仅是机房内部的专业技术问题，而是关乎千家万户切身利益的公共治理议题。智能时代，网络安全防护逻辑已从过去的聚焦设备、网络、软硬件的“保护系统”，升级到对智能体行为、模型输出实施约束管控的“管理智能”。所谓“管理智能”，主要指坚持以人为本，构建适配人工智能自主化特征的治理框架，把人类价值准则、安全规范前置嵌入模型研发、训练、部署、迭代的全生命周期，确保智能系统的输出与运行始终服从人的根本利益，防范技术脱离管控演变为风险源头。
近年来，我国有序推进人工智能安全测评等工作，为网络智能技术行稳致远筑牢底座。这是总体国家安全观在人工智能治理领域的具体运用，体现了统筹发展和安全的内在要求。当前，算法被广泛运用于信息推送、风险研判、资源调配、公共服务等场景，这在极大提升社会运行效率的同时，也带来算法黑箱、数据滥用等问题。部分互联网平台为了绘制用户画像超范围采集个人信息，依托海量数据与算法规则形成数字权力，普通群众往往难以看清算法决策逻辑，权益受损时又难以依靠自身力量维权，这已成为目前网络安全治理亟须破解的现实难题。
防范智能时代网络安全风险，仅靠政府监管远远不够，必须发挥系统治理效能，凝聚多方治理合力。一方面，着力完善多方协同治理格局，厘清各方责任，压实政府监管职责，落实企业责任，发挥行业社会组织专业支撑作用，引导社会公众积极参与监督。另一方面，严格落实《人工智能生成合成内容标识办法》《人工智能拟人化互动服务管理暂行办法》等法规政策，强化人工智能生成内容在生产、传播全环节的标识核验，从源头上减少虚假信息传播。此外，还要持续深化科技伦理宣传教育，引导科研工作者、科技企业从业人员恪守科技伦理底线，畅通群众举报监督渠道，健全线索受理、处置、反馈闭环机制，让广大人民群众成为智能时代网络安全的守望者。
对待人工智能发展，必须坚持辩证思维，既不能过分放大技术潜在风险，以安全为由束缚创新动能，也不能片面追逐技术效率，放任安全底线失守，而是要通过制度设计与公共服务，保障不同群体都能够安心共享数字发展红利。实现网络安全普惠，需要坚持靶向施策、系统推进，持续健全网络安全基础设施，做到网络服务延伸到哪里，网络安全保障就跟进到哪里。加大网络安全公共服务供给，把复杂专业的防护能力转化为简单易用的公共产品，降低普通群众特别是老年群体使用的门槛。依托全民数字素养与技能提升行动，常态化推动网络安全科普进社区、进乡村、进家庭，用通俗易懂的方式普及人工智能诈骗识别、个人信息保护等知识，不断提升全社会风险识别能力和自我防护水平，多方发力、久久为功，夯实智能时代网络安全的人民防线。
（作者为中国工程院院士云晓春）
《人民日报》（2026年11月04日第09版）
责编：秦雅楠、侯兴川
