关于人工智能，美国发布了无约束力的“蓝图”

　　

　　智道

　　聚焦前沿科技与法律伦理的交汇碰撞

　　栏目主持人：於兴中

　　投稿邮箱：zhidao0101@163.com

　　?   未经授权 不得转载

　　文 | 於兴中

　　责任编辑 | 尹丽

　　美国政府在10月初发布了《人工智能权利法案蓝图》，表达了拜登政府对使用该技术的未来愿景，希望能刺激企业更负责任地打造和部署人工智能，并对基于人工智能的监控进行限制。尽管《人工智能权利法案蓝图》只是一个不带有强制性的行动准则，它的重要性也不可低估。该白皮书提出了开发或部署人工智能的公司需要自愿遵循的准则，借以保障人们的信息免受误用或滥用。在没有颁布具体法律之前，对于这些准则的遵守将是选择性的。

　　

　　1

　　“蓝图”背后

　　近年来，人工智能的使用激增，但美国的立法却没有跟上步伐。在联邦层面，没有专门规范人工智能或人工智能应用的法律。这已经远远落后于欧盟和中国。以面部识别软件为例，该软件多年来导致至少数位黑人男子被错误逮捕，因之受到隐私倡导者和数字权利团体的批评，但至今美国仍没有法律规范它。

　　一直以来，如何负责任地使用人工智能一直是人们关注的问题，而这个问题无论对国家、还是个人或企业来说，都显得越来越重要。目前约有60多个国家制定了国家人工智能战略，许多国家已经或正在制定政策，允许负责任地使用这项可以带来巨大利益的智能技术。但如果没有适当的治理，这项技术也可能对个人和社会造成重大伤害。

　　“蓝图”中的那些没有任何约束力的指导方针酝酿了一年之久。白宫希望，它能说服科技公司采取更多措施来保护消费者，包括解释清楚如何以及为何使用自动化系统，并将人工智能系统设计得公平点。

　　根据白宫的说法，包括卫生与公众服务部在内的几个联邦机构将采取措施，落实该蓝图的目标。涵盖的主题包括保护个人数据，并且限制监视。这份73页的文件含有一份“技术附录”，详细说明了实施该蓝图的步骤。

　　该白皮书反映了美国政府的既定议程，即要求技术公司承担责任，并确保新技术的进步是公平的。它是在与二十多个部门、社会团体、技术专家、行业研究人员和包括微软在内的科技公司进行了长达一年的磋商后形成的。

　　2

　　巨大挑战

　　在白宫看来，今天对民主构成巨大挑战的乃是以威胁美国公众权利的方式使用技术、数据和自动化系统。这些智能技术经常被用来限制民众的机会，妨碍他们获得关键资源或服务。更为不利的是，人工智能在现实生活中的运用已经出现了诸多弊端。在美国和世界各地用于病人护理的系统被证明是不安全的、无效的或有偏见的。在招聘和信贷决策中使用的算法被发现反映和再现了现有的不平等，或嵌入了新的有害偏见和歧视。不受控制的社交媒体数据收集被用来威胁人们的机会，破坏他们的隐私，或在人们不知情或不同意的情况下普遍地跟踪他们的活动。

　　这些非常有害的结果并不是不可避免的。自动化系统已经带来了非凡的好处，从帮助农民更有效地种植粮食的技术和预测风暴路径的计算机，到可以识别病人疾病的算法。这些工具现在正驱动着各个部门的重要决策，而数据正在帮助革新全球产业。在世界创新力量的推动下，这些工具有可能重新定义当今社会的每一个部分，使每个人的生活变得更好。

　　3

　　五条原则

　　《人工智能权利法案蓝图》共包括五条原则。第一条原则指出，美国人民有权使用安全和有效的系统，应该是没有恶意或“可合理预见”安全威胁的系统。该系统应该“积极主动地保护”社区和个人。第二条原则要求，算法和系统应该是公平的，没有歧视的。该原则明确指出，在某些情况下，有偏见的技术是非法的。第三条原则是关于数据隐私的，指出用户应该对其数据的使用方式拥有代理权，并应受到保护，免受滥用数据行为的影响。该原则尤其明确指出：“任何同意请求都应该简短，可以用通俗的语言理解，并让个人对数据收集和具体的使用环境有代理权；而目前广泛使用的难以理解的通知和选择的做法应该改变。”第四条原则是关于通知的，用户有权知道什么时候正在使用自动化。这些通知应该是最新的，当重要的使用或功能发生变化时，应该通知受影响的人。第五条原则指出，用户应该能够选择退出与人工智能的互动，并能在适当的时候接触到及时补救问题的人。

　　这五条原则，亦即安全、公平、隐私保护、及时通知和选择退出，显然没有新意，在欧盟的人工智能框架里有更为广泛的规定。但在美国的语境里，这也是一种进步。因为美国联邦政府一贯的立场是放任，而不是监管。“蓝图”预示着平台责任的加强，也表明联邦政府有意改变其一贯立场。当然，联邦政府的动作很慢，这是人所共知的事。

　　4

　　各界反应

　　据报道，“蓝图”的发布在新闻界、工业界和学术界引起了不同的反应。一些主张政府控制的人认为它走得不够远，而且基本上不会有什么效果。这些人希望该文件有更多的像欧盟人工智能法中的规定。有些技术主管则表示担忧，监管可能会扼杀人工智能创新。为了让人工智能在多种用途中的创新和竞争蓬勃发展，很多人不支持转向监管。虽然有些隐私和技术倡导者对蓝图中的指导方针作出了积极的回应，但他们也指出，这些指导方针仅是指导方针，并没有法律上的约束力。

　　虽然“蓝图”不具有约束力，但白宫还宣布，相关联邦机构将推出有关其使用人工智能系统的行动和指南，包括有关采购的新政策。目前还不清楚“蓝图”中的新的指导意见将如何与现有的人工智能指令（即关于促进在联邦政府中使用可信的人工智能的行政命令，或国家标准与技术研究所的人工智能风险管理框架）以及联邦贸易委员会、平等就业机会委员会、联邦金融管理局和卫生保健部的有关政策相匹配。

　　在评估人工智能治理的国际机制和最佳实践形式的大背景下，“蓝图”是一个值得欢迎的倡议。欧盟已经在加紧制定和实施实际的监管制度，这将影响到全球的最佳做法。重要的是政策制定者要努力做更多的工作，实施新的政策和做法，以及未来的有益创新。毫无疑问，这些发展将对人工智能治理中脆弱但正在出现的国际最佳做法产生涟漪效应。

　　（作者系澳门大学法学院讲座教授、人文社科高等研究院院长）

　　END

　　视觉编辑 | 王硕 马蓉蓉