点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:以敏捷治理为智能体发展保驾护航
首页> 理论频道> 经济社会 > 正文

以敏捷治理为智能体发展保驾护航

来源:人民日报

  作者:严国萍(中共浙江省委党校(浙江行政学院)教授)

  智能体是人工智能产品和服务的新形态。习近平总书记指出:“人工智能应当成为人类的可信工具。”近年来,随着新一代人工智能技术演进,智能体快速发展。“十五五”规划纲要提出:“鼓励多模态、智能体、具身智能、群体智能等技术创新”。国务院印发的《关于深入实施“人工智能+”行动的意见》提出到2027年新一代智能终端、智能体等应用普及率超70%;相关部门印发的《“人工智能+制造”专项行动实施意见》提出到2027年推出1000个高水平工业智能体。这将进一步推动智能体技术创新和应用落地。把相关决策部署落到实处,要坚持发展和安全并重,以敏捷治理为智能体发展保驾护航。

  智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统。在人工智能技术推动下,智能体一方面正在向能够自我学习和演化的方向演进,另一方面正在融入工厂、医院、学校、社区和家庭,加速与物理世界深度融合,深刻改变人类生产生活方式。在实际应用中,智能体在带来便利、提高效率的同时,也暴露出一些问题和风险。比如,智能体自主执行任务时,信息安全与隐私保护等问题相伴而生;部分智能体安全防护体系相对薄弱,在恶意指令诱导下存在安全隐患;智能体支付的兴起可能带来模型误判、授权滥用等风险;等等。为此,要及时更新治理思路,积极探索符合智能体发展规律的敏捷治理路径,推动治理体系与技术发展同向而行、协同演进。

  近年来,我国出台《人工智能安全治理框架》等规范,持续加强人工智能治理,构建多层次、多维度的治理机制,在加强敏捷治理方面积累了一系列经验做法。面向未来,应立足我国实际,积极适应人工智能技术快速迭代和智能体自主能力增强的趋势,更好统筹发展和安全,及时动态调整治理方式,为新技术、新业态发展预留空间,在鼓励创新与防范风险之间实现动态平衡。

  构建分类分级治理框架。建立适应新业态发展的高效便捷准入机制,探索“沙盒监管”、触发式监管等新型监管方式。根据应用场景和潜在影响,审慎稳妥开展智能体分级治理。对于敏感领域及重点行业,可根据相关法律法规、监管要求和安全防护标准,实行备案、检测、问题产品召回等管理措施;对于低风险领域,可完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。同时,鼓励行业组织、主要企业联合制定行业自律规则,明确智能体功能合规、算法治理、知识产权保护、公平竞争等规范细则。

  提升内生安全能力。加快突破关键核心技术,提升智能体系统安全保障能力,才能更好防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。要注重前瞻预防和约束引导,在遵守法律法规、尊重社会公德和伦理规范前提下,明确智能体决策权限,厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限,确保智能体始终安全、可靠、可控。同时,强化智能体应用安全管理,避免智能体被用于自动化攻击、隐私侵犯、虚假信息生成传播、网络诈骗等违法犯罪行为。

  加强国际协作。当前,智能体的互信、互联、互操作水平深刻影响全球数字经济的融合程度与人类社会的未来。应坚持共商共建共享原则,加强政策协调与实践合作,在充分尊重各国主权、安全关切、法律法规的前提下,共同打造开放、可信、安全、普惠的智能体生态。强化技术研发,驱动协同创新,推动多智能体从“可控交互”向“自主协同”演进,构建高效、可扩展、低延迟的跨平台互操作能力;促进标准互认,建立开放式标准验证与迭代机制,避免技术壁垒与生态割裂,推动不同智能体无缝接入全球协作网络。同时,制定智能体开发、部署、应用、维护等全周期安全规范,探索建立智能体供应链安全信息共享和预警机制,确保智能体运行始终不逾越安全底线。

[ 责编:罗之颖 ]
阅读剩余全文()

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 提高粮食生产适应气候变化能力

  • 如何理解货币政策的“适度宽松”

独家策划

推荐阅读
银发经济作为适配人口变化的重要经济形态,既涉及产业发展,又关联民生领域,兼具产业属性与公共服务属性,已经成为积极应对人口老龄化和扩大内需的重要抓手,是经济转型的重要方向。
2026-10-14 10:49
2025年,全国服务零售额同比增长5.5%,高于商品零售额增速1.7个百分点,文体休闲服务类零售额增速明显快于服务零售额整体水平。消费者更加重视深度参与、情绪价值、审美体验和社交连接。
2026-08-14 09:31
政府和市场在悦己消费的发展方面形成合力,必将推动我国居民消费从“有没有”的物质数量满足,向“好不好”的品质与情绪效用追求升级,有利于构建高水平消费市场、激发数字经济创新活力。
2026-07-24 09:09
未来产业与传统产业的一个重要区别,在于它对劳动力的要求不是一般意义上的“多一点人才”,而是要求劳动力市场能够适应技术快速演进、场景持续变换、岗位不断重构和组织形态加速调整。
2026-06-23 10:26
面对技术冲击对劳动就业的错综复杂影响,既不能消极观望,更不能置身事外,唯有积极应对,主动治理,方可释放人工智能促就业的数字红利。
2026-06-10 11:26
推动城市低空经济发展,必须坚持安全底线与规则导向,构建与产业形态相适应的制度体系、治理系统和功能生态。
2026-06-01 14:46
当前,宏观经济运行面临需求结构深刻调整的关键阶段。居民消费形态正在经历从实物商品消费向服务消费、从基础生存型消费向发展享受型消费的系统性转型。
2026-05-20 13:45
十年来,我国经济学界牢记嘱托、深耕不辍,从中国经济发展的历史性成就、原创性经验中提炼理论、构建范式,逐步形成具有中国特色、中国风格、中国气派的经济学理论体系。
2026-05-15 10:20
在全面建设社会主义现代化国家的新征程上,“达到中等发达国家水平”作为一项承前启后的阶段性战略目标,正是这一重大时代课题的生动实践与具体体现。
2026-03-24 13:56
消费既是推动经济增长的重要引擎,也是人民多样化、多层次美好生活需要的直接体现。人是消费主体和生产主体,以人为本,关注经济社会发展过程中居民消费需求的变化与满足是扩大内需的路径之一。
2026-03-18 09:18
2025年12月18日,海南自由贸易港全岛封关运作正式启动,这一标志性事件不仅为中国对外开放写下全新注脚,更以制度型开放的突破之力,撬动着亚太地区经贸格局的深层变革。
2026-03-12 16:12
常态化精准帮扶的核心内涵是通过常态化的精准帮扶措施,不断提高被帮扶群体和地区的内生动力和可持续发展能力,实现高质量发展和共同富裕。
2026-02-24 09:32
做好骑手等新就业群体服务管理工作,根本在于实现认知层面从“视其为风险”到“塑其为力量”的深刻转变,实践层面从“碎片化管理”到“系统性治理”的全面升级。
2026-02-09 14:25
优化国土空间发展格局,核心是把分散的安排统起来、把多重目标协同起来。尤其是在存量时代,盘活老空间、优化新供给,推动用地功能重组,正成为提升治理现代化水平的关键一环。
2026-02-05 16:22
把握非遗活化利用的“度”,本质是处理“保护与利用”“传统与创新”“文化价值与经济价值”三组核心关系,这既是非遗传承的关键命题,也是文旅融合高质量发展的必然要求。
2026-01-30 09:18
2026年是“十五五”规划开局之年,做好经济工作至关重要。这“五个必须”,既对以往经济实践作出了深刻精辟的总结,也为做好当前和今后一个时期的经济工作提供了思想指引和行动指南。
2025-12-29 17:36
人力资本作为经济增长核心要素的地位被提升到了前所未有的高度。这种战略重心的转移深刻表明,在高质量发展的新阶段,“人”已不再仅仅被视为市场消费的终端,更是生产要素中最具能动性的价值源泉。
2025-12-25 10:52
高质量发展是以创新为第一动力的发展,意味着必须把以创新为特点的新质生产力作为高质量发展的重要内容和动力所在,以新质生产力发展推动经济增长方式从粗放式向集约式转变。
2025-12-10 09:01
加快建设现代化产业体系为何如此重要?“根基”二字有何深意?实体经济又该如何把握“智能化、绿色化、融合化”的主攻方向,实现从“制造大国”向“制造强国”跃升?
2025-11-19 15:41
优化营商环境不仅是激发市场主体活力的根本举措,更是打通文旅消费堵点、提升消费质量、激发消费潜能的“金钥匙”。
2025-11-05 10:52
加载更多