点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

首页> 理论频道> 文史科教 > 正文

“道德算法”的缺陷

来源:北京日报2020-12-21 10:54

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:中国人民大学法学院副教授、未来法治研究院社会责任与治理研究中心主任 郭锐

  在人工智能伦理研究中,主流的看法是既然让人工智能决策已经不可避免,应该将伦理嵌入人工智能技术之中,以便增加人工智能决策的可靠性和安全性。这种嵌入,也称为“道德算法”。在道德算法的实现路径上,人们已经考虑了三种进路:自上而下进路、自下而上进路和某些混合式进路。所谓自上而下进路,本质上是把道德规则转换为用数学符号表达的算法,用一套伦理原则应对一切伦理问题。自下而上进路则模拟了生物进化,通过机器学习和复杂适应系统的自组织发展与演化,使人工智能系统能够从具体的伦理情境生成普遍的伦理原则。混合式进路是结合前两者,是目前人工智能算法设计的主流。但是,上述看法仍未离开摇摇欲坠的根基,特别是其伦理知识根基。

  “道德算法”的问题在于它仍然是一种消极的应对

  在具体的伦理情境中做出道德决定,受制于无法确知因果关系的困境,具体到某个道德决定可能困难重重。从众多的具体道德决定中生成普遍的伦理原则,更加少不了分歧和争议。让人工智能自发形成普遍伦理准则,对人的道德主体性的威胁是致命的。无论是自上而下、自下而上,还是混合式进路,对因果关系难题、终极准则难题的应对仍然不足,这是它们致命的缺陷。

  此外,人工智能用于公共决策的语境中,尤其会受现代国家将社会生活“简单化”的路径依赖的限制,导致人工智能决策在伦理上的可能盲点。公共决策需要的只是那些帮助决策者对整体进行概括的观察,且可以在许多不同的情况下被重复使用的信息,故在信息中展现的事实必须是可以类型化、忽略大量相关的特征的事实。例如,社会中的人工作生活都是非常复杂的,但在就业统计中,大量复杂的特征被忽略,最终进入统计的是一些格式化的信息:有收入的就业。无论是人工智能系统任务目标的设定、数据的收集,还是算法的训练,都与决策者“简单化”的需求相契合。对数据来源的了解以及数据收集者的度量标准的反思,展现出看似科学、中立的大数据为基础的决策带有的无处不在的偏差和歧视的风险。

  根本上,“道德算法”的问题在于它仍然是一种消极的应对:无论是自上而下的设计还是自下而上的归纳,如果不触及动力机制,而只是应对发现的问题,无异于在建造房屋的同时挖走地基。今天的人工智能技术发展存在于市场和国家等制度中,道德算法的进路,并未在这些制度中发掘应对人工智能伦理挑战的空间。

  应对人工智能伦理的挑战能够采取的行动

  真正能够帮助我们在人工智能伦理领域前行的,或许不是道德算法这类宏大叙事的路线图。我们可以做的,是避免将社会生活“简单化”的狂妄设想,从历史和哲学中谦卑寻求应对的智慧。下面或许是我们当下能够采取的一些行动:

  其一,我们需要关注人工智能决策的道德维度。在已有的人工智能决策应用领域,要特别关注人工智能决策的道德性,不能想当然地把人工智能决策看作是科学的和不可挑战的。这既关乎社会对因果关系的正常判断,也是坚持人的道德主体性的具体表现。例如,对公共决策中人工智能的应用,我们保持应有的关注和警醒。

  其二,我们需要对具体情境下的人工智能决策的道德性保持敏感并持续进行论辩。人工智能决策是对个人、团体和社会层面决策的模仿。关于具体情境下的人工智能决策是否合乎伦理,如果我们失去了敏感,麻木不仁,只会让人工智能系统模仿甚至增强这种趋势。持续论辩是人工智能的道德决策能够与人一致的前提。如果人工智能无法在具体的道德决策中校准,当决策迁移到更大人群或不同语境时就可能完全不在人性的道德罗盘上。这个问题同样关乎社会有没有健康的因果性判断和是否尊重人的道德主体性。广为人知的一个例子是微软的在线人工智能交互机器人,这个机器人上线后,因为一群人使用大量种族主义词汇和污言秽语而迅速被同化。类似的还有美国法院的人身危害评估系统,这个系统从已有案例中模仿因而习得了对非裔美国人的系统性歧视。

  其三,我们需要在人工智能系统中反映人类社会道德生活的丰富性。将发展人工智能伦理的讨论通过立法过程、媒体报道、社区参与推向社会,而不仅局限于技术人员之中。技术社群在遇到伦理问题时向社会保持开放,将社会的反馈反映在人工智能伦理决策中。这种方式能最大限度地帮助人工智能伦理系统学习人类道德,因此是对终极准则难题进行回应的一种实践方式。这个方面最好的例子是隐私权问题。当社会开始讨论隐私权的边界和保护方式时,人工智能系统的决策也更有可能反映人类社会道德生活的丰富性。

  其四,我们必须让弱势群体可以在人工智能伦理决策上发出声音。出现终极准则难题的一个主要原因是,不同的人在道德问题上发言权重的不同。在当代社会,无论是女性主义带来的伦理争议,还是残障群体对“何为残障”问题提出的质疑,都源于长久以来在社会生活中弱势群体的失声。要最大限度地回应终极准则难题,应使弱势群体在人工智能伦理决策上能够发出声音。这方面典型的例子是亚马逊的人工智能人力资源系统对女性歧视引发的争议,金融科技领域的人工智能风险控制系统对特定种族、地域人群的低信用评估分数等。

[ 责编:赵宇 ]
阅读剩余全文(

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 新质生产力引领下的共同富裕之路

  • 数字化转型赋能中小企业高质量发展

独家策划

推荐阅读
高质量构建“大思政课”工作体系要聚焦目标、效果和特色,着力破解思政课建设中的重点、难点和关键问题,带动思政课叙事表达体系和场景体验模式的深层变革。
2024-03-18 10:28
中华文化的主体性植根于5000多年的文化沃土,是在创造性转化、创新性发展中华优秀传统文化、传承革命文化、发展社会主义先进文化的基础上,借鉴吸收人类一切优秀文明成果的基础上建立起来的。
2024-03-08 16:31
数字化网络化智能化加速发展,各国既面临着新的发展机遇,也需要应对新的全球性问题,国际社会迫切需要携手合作,共同打造和平、安全、开放、合作的网络空间,携手构建网络空间命运共同体。
2024-03-01 14:51
中华民族传统节日春节即将到来。值此之际回望2023年,中国经济主要预期目标圆满实现。展望新的一年,我国经济发展依然将面临一些困难和挑战,但同时也具有体量大韧性强创新后劲足的竞争优势、宏观经济政策回旋空间大的支撑效应、新一轮全面深化改革开放的增长红利等三重有利支撑。
2024-02-09 16:37
要聚焦新时代新征程党的中心任务,以加快政府职能转变和优化政府职责体系为重点,在“加减乘除”上做文章,推进机构改革再深化,为在新征程上全面推进中国式现代化提供新动力。
2024-01-30 11:31
面对不断升级的数字社交产品,反而需要青年人意识到沉浸式社交环境背后的营销策略与运作逻辑,从而与社交媒体生成的感官刺激与虚拟自我保持距离。
2024-01-15 09:41
“人民美好生活需要”的提出,内含着马克思主义的价值宗旨,体现社会主义的本质要求,根植于中国经济社会发展实际,符合中国共产党的初心使命,体现合规律性与合目的性的高度统一。
2024-01-12 09:39
冬至阳生,岁回律转。在新的一年,我们站在这一年的不易成果上,对未来充满信心,更加需要接续奋斗、砥砺前行,取得更多发展成果。
2024-01-04 15:35
针对目前思政课教师供给能力不能有效满足思政课强起来的发展需要这一突出矛盾,要切实提升教师供给能力,改进教学方式,推动新时代思政课朝着高质量发展。
2023-12-14 17:59
我国始终主动实行扩大进口的战略和政策,连续举办进口博览会,倡导开放合作,与既往的贸易保护理论和政策主张存在根本差异,为维护开放的世界经济注入了强大动力。
2023-11-09 10:22
面向未来,要进一步扩大“朋友圈”,绘制好“工笔画”,对接好“硬联通”与“软联通”,秉持包容、合作、共赢的原则,为实现民族复兴和推进全人类的福祉而努力奋斗。
2023-10-24 11:06
文化交流很重要,我们在讲“一带一路”的时候,也需要讲“共建国家”给我们带来的好处。其实我们面临着如何正确对待自己的问题,“一带一路”不是单方面的施与,而是双向的或多向的互利。
2023-10-10 09:58
我们必须要全面把握东北向北开放的历史使命,通过推动东北亚次区域、国别合作,破解东北亚各国战略意图和利益不同、战略互信缺失的困境。
2023-09-27 09:53
2022年我国数字经济规模达50.2万亿元,总量稳居世界第二,同比名义增长10.3%,占国内生产总值比重提升至41.5%,数字经济成为我国稳增长促转型的重要引擎。
2023-09-15 10:49
坚持以习近平法治思想和总体国家安全观为指导,准确把握完善国家安全法治体系的时代内涵和实现路径,是新时代新征程把中国特色国家安全法治建设推向前进的必由之路。
2023-08-22 09:41
习近平总书记进一步推进马克思主义基本原理同中国具体实际、同中华优秀传统文化相结合,创造性回答了关系党和国家事业发展的重大问题,形成一系列原创性理论成果。
2023-08-18 09:14
深刻的理论来源于人民大众的实践,只有不断拓展理论的深度和广度,用“大众话语”说清“理论话语”,理论才能真正变成人民群众手中的尖锐武器。
2023-07-18 17:59
“千万工程”把村庄整治与发展经济结合起来,以乡村经营为抓手,持续打通“绿水青山就是金山银山”转化通道,将生态红利变为民生福利。
2023-07-12 09:32
区域国别学是典型的交叉学科,只有从不同学科视角贡献知识增量,通过融合、碰撞和创新,才能最终形成学科共识。
2023-06-28 09:36
加载更多