算法伦理：现状与困境

　　本文首发于“数字经济与社会”。

　　近四十年后，算法伦理研究迎来了又一波热潮。文章既多，纲领亦多。相关探讨的数量，已经到了一个值得系统总结的规模。在这一问题上，两份研究尤其值得注意：其一，Jobin，Lenca与Vayena在Nature Machine Intelligence撰文，梳理已有算法伦理原则的共通点；其二，Mittelstadt指出，算法伦理有“雷声大，不见雨”之嫌。令相应原则落地，仍面临许多难以逾越的困难。

　　图1 各国颁布的原则数目，涂色不同对应数量差异

　　第一篇，原文用三种方法找寻筛选各色原则：在LInkhubs搜索，用Google搜索，以及，根据各原则的引用进一步筛查，总计84份[1]。近90%发布于2016年之后。发布者中，企业占近四分之一，政府比例接近，学术机构占约10%。发布者在地域方面亦有明显区别：美国21份，欧盟19份，英国13份，合计过半。剩余国家或地区则只有零星成果。非洲与拉美等地，更是一例也无[2]。

　　表1 原则中各主要关键词占比，以及各类关键词中细分出的、在原则中常见的子项

　　具体到原则的内容，茫茫文海里，以下关键词最为常见：透明属第一，84份里占73份，其间又细分出披露、解释、审计，等等；公正居第二，见于64种原则；不作恶与负责，都有60例拥趸；隐私与向善，均载于近一半样本；尚有相当比例的原则涉及自由、自治与信任；少数原则还纳入可持续、尊严与凝聚力。总体来讲，原则之间分歧甚多；同一原则，含义也远未明晰统一[3]。

　　理论与实践当然有可能并行不悖。不过，领域内知名学者Mittelstadt明确指出：实践层面，算法伦理的落实，仍面临根本挑战[4]。问题有四，涵盖算法伦理各层面：首先，算法从业者利益，未必能与伦理所主张的公共利益调和[5]；其次，从业者缺乏身份与伦理认同；再次，除去学术层面的理想，未有实际可行的、将伦理“转录”至实践的办法[6]；最后，法律与职业层面问责几近于无。

　　图2 研究显示：实践中，主要职业协会指定的伦理指南，并不会影响从业者的伦理决策

　　二文均试图找寻出路。前者的提议同样以原则为主。后者提议中，部分项目并无新意。之外，要求“高风险应用”取得执照一项，注定充满争议；“从过程而非求解角度看算法伦理”一项，则有可能成为未来方向。后者结尾，较准确地概括了目前领域内的困境与出路：“……[算法]伦理是一个过程，而不是一个目标……[真正的工作]是开始理解伦理中实际蕴含的困难”。

　　[1] 原文没有计入国内发布的多份原则，当为重大遗憾之一。

　　[2] 2019年下半年时，南非等国已展开相应研究。

　　[3] 2018年以降的许多研究阐明：特定版本的原则，可能在技术甚或理论层面即无法实现；原则之间，亦有可能存在无法调和的冲突。国内亦有研究正在探索相关问题。

　　[4] 如Mittelstadt所言，有多种批评认为：各色原则，不过是阻碍监管的“障眼法”。值得说明的是，原文不尽认同这一批评。

　　[5] 一度有学者认为类似信义义务的安排可以解决问题。不过，有新近研究强烈批驳这一观点，并质疑互联网企业如何可能同时对股东与用户尽信义义务。

　　[6] 这一点或许意味着：无论是学理出发畅想伦理落地，还是技术出发试图植入伦理，总需在拟议之前解决好“桥接”或“交叉”问题。

　　[7] McNamara, A., Smith, J., & Murphy-Hill, E. (2018, October). Does ACM’s code of ethics change ethical decision making in software development?. In Proceedings of the 2018 26th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering (pp. 729-733).

　　文献来源：Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389-399.

　　Mittelstadt, B. (2020). AI Ethics--Too Principled to Fail?. arXiv preprint arXiv:1906.06668.