我国AI发展进入“技术攻坚+场景落地+安全护航”三位一体新阶段

中国工业报记者   曹雅丽

当前，人工智能作为引领新一轮科技革命与产业变革的战略性力量，已成为培育新质生产力的核心引擎。国务院常务会议7月31日审议通过的《关于深入实施“人工智能+”行动的意见》，标志着我国AI发展进入“技术攻坚+场景落地+安全护航”三位一体的新阶段。

随着人工智能发展进入下半场，智能体技术加速突破实验室边界，深度融入产业核心领域，日益成为驱动产业变革的关键引擎。在此背景下，8月6日，第十三届互联网安全大会（ISC.AI2025）在北京举办。大会以“ALLINAGENT”为主题，加速推动智能体技术的颠覆性创新、产业深度融合与生态体系繁荣，开启智能体时代全球发展新纪元。

人工智能加速升级

人工智能作为引领新一轮科技革命和产业变革的战略性技术，正在对经济发展、社会进步等方面产生重大而深远的影响。

工业和信息化部原总工程师、中国互联网协会专家咨询委员会常务副主任赵志国在会上表示，人工智能技术加速迭代，人工智能领域创新呈群体性突破之势，人工智能与实体经济深度融合特征更加明显，尤为值得一提的是，人工智能和安全领域的结合日益紧密，不仅催生为网络安全提供了更具主动性和适应性的技术工具，更推动安全体系从被动防御向智能驱动重构，其“安全能力倍增器”的效应正加速显现。

中国工程院院士，英国皇家工程院院士，香港理工大学杰出讲座教授陈清泉在演讲中指出，人工智能在推动新质生产力走向“高科技、高效能、高质量”的过程中发挥重要作用，要不断突破现有科学界限，发挥科学世界的无限可能。

人工智能深入百行千业，为高质量发展注入强大动能，大模型的突破引领人类社会进入智能化时代。360集团创始人、ISC大会主席周鸿祎在《ALLINAGENT》主题演讲中指出，大模型进化到智能体是必然的，智能体能够理解目标、规划任务、调用工具、具备记忆，实现从需求到结果的完整交付，将推动人机交互范式的根本性变革。

“但同时也要清醒地认识到，技术革新的背后安全风险正在交织叠加，带来的风险挑战引发广泛关注。”赵志国强调。

一是技术脆弱性带来内生安全风险。现阶段人工智能技术创新是以数据、算法、算力三要素的共同驱动，数据的依赖性、算法的复杂性、算力的集中性等内在属性，使得模型幻觉、算法黑箱、数据可信等特有的安全风险更加凸显。

二是恶意利用放大安全危机。人工智能驱动的攻击手段正朝着智能化、自动化方向发展，在显著降低攻击门槛、提升攻击频率的同时，进一步增强了攻击的隐蔽性与变异性。深度伪造欺诈、自动化攻击、开源生态投毒等新型网络威胁日渐增多。

三是治理的复杂性日益凸显。人工智能技术的广泛使用、各行业各领域的应用推广、以及多场景的深度渗透，使其安全治理涉及技术标准、法律法规、应用安全、伦理规范等多重维度，监管框架完善的速度仍落后于技术发展应用速度，治理难度与不确定性持续上升。

为助力人工智能行业实现高质量发展，推动人工智能技术创新应用与协同治理，广大民营企业要把握时代机遇，全国工商联党组成员、副主席罗来君在致辞中提出三点建议，首先要胸怀国之大者，主动融入国家战略；其次要坚持开放式创新，促进成果加速落地；最后，要共绘同心圆，打造智能向善的治理体系。

内生风险与全球治理挑战亟待破解

“当前随着人工智能技术迅猛发展，网络安全的危险持续攀升，如今黑客组织可以将黑客的经验和能力训练进大模型，打造智能体黑客，将人与人的网络攻防变为人与智能体的攻防，加剧了网络的不对称性。”第十三届全国人大社会建设委员会副主任委员、国家互联网信息办公室原副主任、世界互联网大会秘书长任贤良也认为。

“去年以来全球范围内的网络攻击事件迅猛增加，攻击手段复杂隐蔽，凸显加强网络安全措施和提高对新型威胁的响应能力的重要性。”任贤良说。

任贤良表示，目前全球数字技术发展存在不平衡现象，部分国家和地区数字基础设施建设薄弱，能力建设滞后，不仅难以享受互联网发展的福利，也在面对网络安全攻击时暴露出更大的脆弱性。各方拥抱人工智能发展机遇，积极参与到人工智能的发展和治理中来，并通过开放合作促进全球数字基础设施均衡发展，利用技术转移、能力建设、制度协同，为发展中国家和地区提升网络安全的防护水平，用数字普惠保障网络安全。

他指出，随着人工智能技术在各个领域的广泛应用，安全威胁的形式也在不断的演变。除安全漏洞供应链工具等传统安全外，大模型也存在自身的系统安全、内容安全以及幻觉等特有的风险。面对全球网络安全风险的新形势，必须把创新作为第一动力，促进科技成果的转化应用，提升算力资源的供给，鼓励模型算法创新，加速人工智能相关的技术与安全防护的深度耦合，赋能网络安全创新发展。

此外，要推动构建网络空间命运共同体迈向新阶段。要广泛的凝聚共识，深化在技术创新、规则制定、能力建设等领域的务实合作。

“人工智能这一网络安全既是风险也是机遇，要在充分发挥人工智能潜力的同时确保其发展的安全性、可靠性、可控性和公平性，使其成为守护安全造福人类的国际公共产品。”任贤良表示。

智能体革命重构安全攻防

随着大模型向具身智能演进，“智能体”（Agent）技术正在重构安全攻防体系。从被动防御转向主动免疫，从单点防护升级为全域协同。

“推动AI技术和数字安全的融合发展成为助力数字化建设、提速数字经济发展的关键。”ISC名誉主席、教授邬贺铨在致辞中表示。

邬贺铨指出，基础大模型展现出的通用能力虽然强大，是企业数字化转型的基石，但在垂直领域的深度应用中却面临着专业知识不足、场景适应性有限的“最后一公里”挑战。

周鸿祎表示：“大模型能力越来越强，但仅有大模型是不够的。”他指出，过去大模型在企业应用中的两大痛点——推理能力不足和缺乏独立做事能力，前者在近一年已显著改善，但后者仍未解决。“大模型缺少‘手和脚’，不会使用工具，不能直接‘干活’。AI发展如果停留在大模型阶段，只能成为玩具，而非生产力工具。”

周鸿祎强调：“大模型进化到智能体是必然的。”智能体才是解决之道。智能体是AI从“能思考”迈向“能做事”的关键载体，其发展将重塑产业形态，推动新质生产力加速形成。其核心在于使用工具的能力和利用大模型进行复杂任务规划的能力。

周鸿祎认为，人工智能的发展历程中，智能体经历了从基础交互到自主协作的渐进式突破。早期的L1智能体仅能实现简单知识问答，如同“聊天机器人”；L2工作流智能体虽能通过预设流程提升效率，却仍需人类主导操作，灵活性受限；L3推理型智能体实现了单领域深度推理，如同“专业员工”，但面对跨领域复杂任务时，协同能力的短板逐渐显现。如今，360纳米AI推出的L4多智能体蜂群，实现了智能体发展的质的飞跃。它突破单一智能体的能力边界，通过“拉群组队”的协作模式，将不同领域的推理型智能体组合成高效团队，像蜂群一样分工协作。

“专业的数据、专业的知识、专业的工具、专业的工作流、专业的安全大模型、专业的智能体打造平台，每个环节都是安全智能体的构建壁垒。”周鸿祎在回答360打造安全智能体的优势和壁垒时表示。

但周鸿祎也指出，AI技术的深度渗透正重构网络安全攻防格局，企业仍面临两大痛点：一方面，安全运营专家极度短缺且培养周期长、难度大，传统大模型虽能处理部分基础任务，却难以应对复杂流程化的日常运营工作，导致防护能力落地受阻；另一方面，过去“一将难求”的黑客，如今可通过AI训练出“智能体黑客”，这类自动化攻击工具能自主完成系列攻击任务，且依托算力可批量复制，一个人类黑客甚至能管理数十、上百个智能体黑客，升级为“超级黑客”。

面对这样的重构格局，周鸿祎强调，安全智能体正在成为破局关键。从本质上讲，安全智能体就是安全运营专家的数字替身，它以安全大模型为“脑”，赋予工具调用、流程执行等“手脚”能力，完整复刻高级专家的分析、决策与实操能力。

随着智能体从办公场景深入生产核心，AI正成为驱动产业升级的核心生产力。华为ICTMarketing与解决方案销售副总裁史振钰表示，当前AI正处于从“答得妙”迈向“靠得住”的关键转折的节点，要共建韧性智能体生态，共筑可持续、可信赖的AI生产力未来，加速人工智能迈向规模化、产业化新阶段。

百度智能云副总裁、百度智能云泛科技业务部总经理张玮表示，企业智能化升级的核心是构建有业务价值的企业级大模型应用，这需要依托算力支撑、模型研发、数据智能处理、应用开发等多维度的AI基础设施。

据悉，作为行业首个以智能体驱动安全的企业，目前，360已实现全线产品智能体化，并通过自主研发的“智能体工厂”打造360安全智能体，为政企单位提供多元应用方案。

周鸿祎强调，安全智能体不仅是对传统安全的补充，更是重构数字安全体系的核心力量。在AI定义未来的时代，只有主动拥抱安全智能体，才能真正筑牢数字安全防线。

构筑AI安全发展新格局

党中央、国务院高度重视推动人工智能健康有序发展。一系列的政策举措为“人工智能+安全”工作指明了前进的方向、提供了根本的遵循。

赵志国表示，要聚焦深度学习框架、智能芯片等关键领域攻坚突破，加快自主创新步伐，提高安全发展能力。构建通用与专用相结合的模型体系，加强模型安全评估与审计验证工作，提升模型准确性和稳定性。加快构建安全可靠、绿色高效的智能算力基础设施，强化芯片、服务器等底层硬件的自主保障能力，筑牢基础设施安全底座。

要坚持融合赋能，壮大产业发展生态。加强人工智能与安全产业的深度融合、双向赋能。一方面，以“人工智能+安全”深度融合培育壮大安全产业，发挥人工智能在数据处理、模式识别、告警研判、恶意软件识别等方面的优势，推动安全技术更新、路径升级、模式重塑，牵引市场主体、产业生态发展壮大。另一方面，以安全能力建设保障人工智能产业发展壮大，加大智能算法漏洞检测、深度伪造防御、隐私计算等安全产品供给，加快工业互联网、5G等重点场景安全防御能力建设，织密人工智能应用的安全防护网，构建内生安全综合能力体系。

要坚持协同共治，形成安全发展合力。积极推动“政产学研用”多元主体协同发力，在安全机制共建、技术攻关、规模应用、标准体系、人才培养等方面深化合作，构建“人工智能+安全”产业生态圈。积极推动并参与人工智能安全治理国际合作，聚焦模型幻觉、不可解释性等技术风险，强化前瞻研判、交流合作、标准共建，推动形成具有广泛共识的人工智能全球治理的架构和体系。

“应对‘最后一公里’挑战，破解之道在于深化协作：需要大模型技术提供方与金融、医疗、制造、能源、交通等垂直行业的龙头企业、专业机构紧密携手，深度理解行业知识图谱与核心痛点，共同构建高质量的专业语料库，为模型注入行业灵魂。”邬贺铨表示，同时必须着力降低应用门槛，探索“行业大模型即服务”等创新模式。

同时，加速大模型技术创新与架构演进，提升效率与可及性。大模型对算力的高需求深刻改变了云计算生态。未来的方向在于模块化与解耦化，将庞大的单体模型拆解为灵活的功能组件。同时，必须持续聚焦模型效率优化，大力投入模型压缩、高效训练和推理加速等技术，在保持强大能力的同时显著降低计算与能耗成本。

“这不仅关乎经济效益，更是实现绿色可持续发展及推动AI向边缘端、移动端普及的关键。”邬贺铨说。

邬贺铨还表示，要创新升级数字安全防护体系，构建AI驱动的主动免疫。数字安全企业应着力构建覆盖预测、防御、检测、响应、恢复全生命周期的体系化安全运营框架，整合流程、人员与技术，形成闭环能力。更为关键的是，要充分利用AI尤其是大模型的强大能力，赋能威胁狩猎、异常检测与自动化响应，推动安全防御从“事后补救”向“事前预警、事中阻断”的主动免疫模式跃升。同时，必须高度重视并保障AI系统自身的安全。

此外，要深化国际合作，共建开放、包容、安全的数字未来。数字空间是人类共同的新家园，人工智能与数字安全的挑战是全球性的，单打独斗无法应对。

“我们迫切需要加强国际协作，在人工智能伦理准则、数据跨境规则、网络安全威胁情报共享、关键基础设施防护标准等领域深化对话，寻求共识。”邬贺铨表示。要共同应对利用AI进行深度伪造、网络犯罪等新型安全威胁，建立有效的互信与合作机制。