点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
作者:刘梦(南京工业大学经济与管理学院);汪寿阳(中国科学院大学经济与管理学院讲席教授,发展中国家科学院院士、国际系统与控制科学院院士)
习近平总书记在中共中央政治局第二十次集体学习时指出,推进人工智能全学段教育和全社会通识教育,源源不断培养高素质人才。我们要深入学习领会习近平总书记关于教育与人工智能深度融合的重要论述,牢牢把握以人工智能赋能教育高质量发展的战略价值、目标任务和理念方法,抢抓人工智能发展的历史机遇,充分发挥智能技术的变革性力量,赋能教育强国建设迈上新台阶。高等教育是教育、科技、人才三位一体发展的结合点,要为社会培养大量能够应对生成式AI挑战、把握其机遇的高素质人才。相较于辨别式AI(用作辨别的人工智能)对初等教育在教学工具层面的创新,生成式AI直接影响着高等教育生态建设,从而影响到人才培养。
近年来,生成式人工智能(AI)凭借深度学习和自然语言处理等技术的突破,促使高等教育生态发生新变,有学者称之为“重构”。它不仅改变了传统的知识生产、人机交互和服务能力,更改变了教师角色、学习空间和评价体系。在此背景下,我们要充分认识到,如果生成式AI在高校演变为“科研主体”,那么它对高等教育生态构建的冲击更甚,并会带来程度不一的认知危机、伦理困境和安全威胁等新问题和新挑战。重视人工智能技术从工具应用到生态变革的创新,探索防止生成式AI负面影响高等教育生态的治理之策,是深入推进我国高等教育改革的重要议题之一。
生成式AI促使高教呈现新的生态特征
生成式AI通过大规模预训练模型实现了从“判别分析”到“创造生成”的范式跃迁。生成式AI虽然大大提升了教学效率,但需配合教师专业判断。当前,生成式AI在高等教育领域的核心优势主要体现为知识生产、人机交互和应用场景等方面的技术范式突破,促使高等教育新生态的涌现呈现如下特征:
一是教学关系的三方建构。教师、学生与生成式AI形成“三角互动”的新范式,显著优化了教学效果和学习体验。生成式AI推进了知识生产从“人类独享”转向“人机协同”。一方面,使教师角色从传统知识传授者向学习引导者、认知架构师转变。例如“AI教研助手”可通过分析课堂实录视频,生成针对教师教学能力的提升图谱。另一方面,生成式AI可针对学生的特定学习需求提供精准资源和个性化服务。例如,“AI助教系统”可根据学生的薄弱环节自动生成针对性练习,并实时解答学生的疑问。
二是知识生产的众创模式。从物理教室到智能教育场域,从独立知识到交叉体系,生成式AI突破了传统局限于线下场景的数字化映射,通过智能化、具象化、混合化多元空间,强化教学感知,为多元学科融合激发产生新知识提供了试验空间。一方面,多模态技术应用使教育场景更加“沉浸式”。例如,通过生成式AI重建考古挖掘现场、化学反应过程等教学场景。另一方面,虚实融合的混合式教育生态正逐步构建。基于虚拟现实(VR)、增强现实(AR)等技术手段打造的元宇宙课堂,生成式AI为打通多学科知识链接提供了多元机遇,有助于多学科的交叉创新和融合。
三是评价体系的范式革新。辨别式AI局限于标准化测试的自动评分功能,生成式AI则能为高等教育服务的按需供给和效果评价提供精准化、即时性、全流程的智能支持系统,推动评价从标准化测试向发展性诊断转变。一方面,生成式AI极大提高了高等教育成效的评价效率和准确程度。目前,生成式AI的智能评审已经能与专家评分达成较高的一致性。另一方面,生成式AI有助于完善对高等教育的多维度、系统性评价。通过跟踪学习轨迹、化身“虚拟评委”以及动态生成个性化试题等方式,生成式AI提供的过程性评价、创造性评价和自适应测试,有助于完善对高等教育质量的综合评定。
生成式AI造成高教生态潜在风险
相较于辨别式AI的工具性局限,生成式AI通过创造性输出、语境化交互和自主演化能力,在促使高等教育生态发生新变的过程中至少引发了如下三方面的潜在风险:
一是认知风险。生成式AI直接参与了知识生产,这将引发高等教育中人本主体对自身认知能力的担忧。具体表现为:生成式AI提供的完整解决方案(如自动生成论文框架等)可能会抑制学生的思维探索;即时知识检索和分析报告可能会取代自我求索和检查反思,造成“认知外包”问题;过度适配AI的固化思维和“伪原创”可能会造成创新边界混淆等。
二是伦理困境。生成式AI所造成的价值渗透不可见性、创新边界的模糊性等,对目前的学术体系造成重大冲击。针对利用生成式AI参与科研创新的贡献归属、故意逃避抄袭和重复率检测等问题,在业界存在着很大争议。计算机算力、数据存储、人工智能技术的要素差异也可能进一步加剧教育公平问题。此外,生成式AI还容易导致师生关系异化,可能形成对知识、品行、文化等代际传承的隐性风险。
三是安全威胁。生成式AI在训练及应用过程中可能涉及数据隐私、虚假数据、错误算法等问题,可能产生系统性教育风险。一方面,生成式AI对学生个人信息、学习记录等数据的访问、推演和学习,可能引发数据交易等非法行为以及错误数据对认知基模的污染积累。另一方面,生成式AI可能引发新型教育诈骗,因算法缺陷造成教育内容失真和价值观冲突。例如,自动生成高质量虚假文献,定制化学术钓鱼诈骗,生成并传播历史虚无主义等错误观念。
在生成式AI挑战下不断优化高教生态治理策略
习近平总书记指出,要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。这一重要论述启示我们,要辨清人工智能带来的挑战和机遇,把握其发展趋势和规律,使其朝着有益、安全、公平方向健康有序发展。
智能时代,我们要牢牢掌握人工智能发展和治理主动权,促进人工智能助力教育变革。在2025世界数字教育大会上,教育部部长怀进鹏发表主旨演讲提出,坚持智能向善,建构有效应对潜在风险的伦理规范,引导学生合理使用人工智能,建立人工智能教育环境,加强人工智能工具和应用开发规范。
要治理好生成式AI导致的生态变化,高校应充分考虑自身实际,兼顾技术创新与伦理规制,平衡效率提升与学术诚信,通过多层次、系统化的治理策略予以应对,构建四大策略相互支撑的治理系统:以制度体系提供规范框架,以伦理建设塑造应用文化,以技术工具优化风险管控,以评价改革引导发展方向,在人工智能时代守住育人初心,实现技术赋能与教育本质的有机统一。
首先,构建分层分类的制度治理体系,以规范框架引导AI技术合理嵌入教学场景。高校应制定具有学科敏感性的应用指南,明确区分通识教育和专业课程中AI工具的功能边界与使用限度。通过建立AI工具准入审查机制和校级伦理委员会,系统评估数据合规性、算法透明度和人机伦理风险,形成动态优化的政策闭环。在为师生提供明确操作指引的同时,从源头上打造负责任的AI应用文化。
其次,开展人机协同的伦理能力建设,以价值观推动AI技术转化为教育实践载体。通过将AI伦理模块嵌入教师发展及学生学术规范课程,构建基于情境教学的价值认知框架。数字水印、区块链溯源等技术手段与学术诚信承诺制度的结合,可形成“技术—制度—文化”的三重保障体系。同时,积极探索教学竞赛等AI在高等教育中的创新推广和落地机制,有助于强化教师在AI应用中的主导作用,避免技术反客为主的异化风险。
再次,开发智能嵌入技术的监管工具,实现风险管控与教学过程的深度融合。必须关注AI技术创新在高校教学科研与监管治理中的“并行”推进,打造集成化教学管理平台,集聚全流程监控、内容评估与数字素养追踪功能,通过实时数据监测、预警机制防范算法偏见和数据安全风险。其中,校企合作开发教育专用大模型尤为关键,它既能有针对性地保障高校教学内容的质量和先进性,又能为构建安全、自主、可控的校园AI应用环境提供技术基础。
最后,推动教学评价体系的范式革新,建立适应人机协作时代的评估标准。通过增设AI辅助任务评估维度,重点考察提示词工程、批判性评估和人机协同创新等新兴能力,实时更新高校教学评价系统紧跟社会需要和时代发展。配套建立多维效果评估指标体系,将AI教学创新纳入教师考评机制,最终形成“应用—评估—优化”的良性发展生态,确保生成式AI成为真正提升教育质量的有效赋能工具,而非替代性冲击。