新兴技术中的伦理和监管问题

　　新兴技术的主要特点是, 它有可能对人和社会带来巨大受益, 同时也有可能带来巨大风险, 以至会威胁到人类未来世代的健康以及人类的生存;它还具有不确定性、善恶双重用途特性以及会提出一些我们从来没有遇见过的新的伦理挑战。如何在许多因素不确定的情况下对新兴技术的创新、研发和应用方面的风险受益比做出合适的评估, 以及尊重作为利益攸关者的人, 维护他们作为人的权利和尊严, 这是新兴技术的两个基本伦理问题。与此相联系, 文章着重讨论为人类造福、伦理先行、公平可及、消除歧视四个方面的伦理问题。关于新兴技术的监管, 最为重要的是政府自上而下的监管, 要对违规者问责、追责、惩罚, 让违规者付出违规成本;同时还应指出, 对于新兴技术的监管, 政府、科学家、企业三驾马车是不充分的, 必须有公共参与, 即人文社科专家和公众代表在上游就应参与决策。对新兴技术不确定性的监管, 应对的主要办法是采取防范原则, 而其前提是:对科学技术风险的评估具有不确定性以及有必要采取行动。

　　

　　一、引言

　　贺建奎事件虽然已经过去了半年, 但对这一事件的反思仍在进行之中。所谓“痛定思痛”, 要等“痛”定之后再来反思这个“痛”是怎么来的, 怎样才能防止这个“痛”再次发生。从致力于监管前沿科技和某些部门和人员而言, 一是他们将监管的注意力, 仅仅集中于科研诚信和科研不端行为, 而没有关切科研对人和社会以致人类可能产生的负面作用;二是对于像基因编辑那样的新兴技术, 没有注意其伦理问题的特殊性, 因而也没有建立专门针对它们的监管机制。虽然近几年来我们对科研的监管和治理比以前有很大的进步, 例如在国家卫生健康委员会系统内, 已经建立有法律效力的研究伦理法规或规章体系;对科研项目和研究方案的伦理审查体系, 对科研人员、伦理审查人员以及监管人员的研究伦理能力建设以及对机构伦理审查委员会的检查和考评工作也正在努力进行, 但就总体而言对科研的监管和治理仍处于初级阶段, 在一定程度上存在“无法可依”“有法不依”的情况, 对新兴技术的创新、研发和应用缺乏基于扎实伦理研究的监管规则和制度, 已有的机制则存在监管失灵的现象。还有一部分决策者和科学家存在着摆脱伦理约束、赶上先进国家科技水平的错误思想, 例如在本世纪初制订有关人类基因与疾病关系的863计划时, 本来有一个预算为150万人民币的子课题, 即基因组研究中的伦理、法律和社会问题, 其中有25个研究课题, 但被当时的部门领导以“现在不是讨论伦理问题的时候”为由砍掉了。有些科研人员错误地认为, 国外科学家受到的伦理和法律约束严, 我们可以不受这些约束, 可以实现赶超。他们不了解伦理的约束与科学的发展是相反相成、相互促进的。因为科学与伦理的共同目的是一方面使科学健康发展, 另一方面是要为人类造福。现在我们所说的负责的科学既包括坚持科学诚信, 也包括保护人类受试者的健康、生命、尊严和权利以及实验动物的福利。我们若是幻想摆脱伦理学, 那么结果将是:我们越想摆脱伦理学, 我们的科技越无法发展, 因为丧失了人民和国际科学界的公信。这正是贺建奎事件的教训, 也是过去大量使用未经证明的所谓“干细胞疗法”、黄金大米试验以及头颅移植试验的教训。本文是我们从2019年起, 参加深圳国家基因库伦理会议、中国科学院道德建设委员会主办的21世纪科技伦理挑战会议以及中国人民大学伦理学及道德建设研究中心全国生命伦理学学术会议, 逐渐提出和发展“伦理先行”论点的深化, 希望在发展新兴技术方面伦理学走在科学前面:科学家要做什么, 先制订暂时性的伦理规范, 也就是先要立“规矩”, 尽管这些规矩是暂时的, 随时要准备修改补充的。而这些临时性“规矩”必须建立在对其伦理问题深入探讨的基础之上。

　　二、新兴技术及其特点哪些算是新兴技术, 莫衷一是。我们认为, 在我国新兴技术应该包括例如基因技术和基因编辑、人工智能技术、机器人学、合成生物学、神经技术、微电机系统 (mini-robots) 、纳米技术、增强现实技术 (augmented reality) 、3D印刷、异种移植等。这也是初步的意见, 可随我们对新兴技术的进一步认识和技术本身进一步发展而有所改变。但我们首先要澄清的是:“新兴”和“新兴技术”这两个术语或概念的意义。新兴技术的“新兴”是什么意思?新兴技术的英语是emerging technologies, 我们在科学哲学中讨论过emerge或emergence, 曾译为“突现”。这里让我们先来看看波普尔 (Karl Popper) 的突现 (emergence) 理论。[1]波普尔认为科学提供给我们的一幅宇宙的图景, 表明宇宙是有发明性和创造性的, 在宇宙中会在新的层次突现新的事物。例如巨大恒星中心的重原子核、有机分子、生命、意识、人类精神产品 (如艺术、科学) 都是不同层次的突现。突现不是一般的出现, 它有如下的特点: (1) 突现出来的是新事物, 与现有的事物有质的不同, 所以波普尔强烈反对《旧约》中说的“太阳底下没有新事物”;[2](2) 新事物的出现是突然的, 仿佛从它隐藏的地方显露出来; (3) 新事物的出现往往是不可预测的, 可能是引起它产生的因素太复杂, 存在着许多不确定性, 或者这些因素相互之间的依赖关系过于复杂难以把握; (4) 新事物的出现往往对宇宙的演化或自然和社会的发展有非常重要的影响。就生命起源而言, 生命在宇宙中的突现是依赖于当时的许多复杂的、我们至少目前不可模拟的条件及其相互作用。具备哪些特点可称为“新兴技术”?Rotolo等人[3]指出, (1) 新兴技术在概念、技术、方法方面具有非常的新颖性, 而不是一般的新颖, 它们具有革新性和创新性; (2) 它们发展的速度要比常规技术快得多; (3) 新兴技术相互之间具有连贯性和凝聚力, 它们之间相互促进、相互影响; (4) 拥有十分突出的影响, 有时可能起颠覆性作用, 可能会使社会大大受益 (解决长期以来存在的社会问题和全球性问题) , 同时可能引起的风险或伤害也非常大, 以至于有些人认为可能威胁人类的生存; (5) 具有不确定性和歧义性, 不确定性是它们自身的发展及其对人和社会的影响难以预测, 而歧义性是指人们对新兴技术做出决策时难以对其前景、做法或产物取得一致的理解或评价。他们的意见是值得我们考虑的, 但我们认为, 从伦理学以及监管和治理角度看, 新兴技术有以下四个主要特点[4,5]值得我们深思。新兴技术的主要特点之一是, 它们有可能对人和社会带来巨大受益, 同时又有可能带来巨大风险, 以至威胁到人类未来世代的健康以及人类的生存。例如人工智能可使人类从一般的智能活动摆脱出来, 集中精力于创新发现发明, 然而同人类一样聪明甚至超越人类的人工智能系统, 一旦失去控制, 可能对人类在地球的存在带来威胁。最早提出技术奇点 (technological singularity) 或奇点 (singularity) 这一概念的是匈牙利-美国大物理学家冯诺依曼。[6]技术奇点或奇点是指未来的一个时间点, 此时技术的增长已变得不可控制和不可逆转, 人类文明将发生难以预测的变化。这种奇点最为流行的版本则是“智能爆炸” (intelligence explosion) , 指可不断给自己升级的人工智能行动者发生失控反应, 产生强有力的超智能, 远远超越所有人类智能, 从而威胁到人类的生存。瑞典哲学家波斯特罗姆 (Nick Bostrom) 则提出“存在风险” (existential risk) 概念, 意指人类不慎使用核技术、纳米技术、基因工程技术以及人工智能技术等而导致永远毁灭起源于地球的智能生命, 即人类永遭毁灭。[7]而英国大科学家霍金 (Stephen Hawking) 不止一次警告说, 人工智能有可能毁灭人类。[8]又如合成生物学的研究和广泛应用可帮助人类用多快好省的方法解决困扰人们已久的粮食、营养、燃料、药物和疫苗的生产问题, 然而如果合成出传染力强、引起的疾病严重、传播迅速且对疫苗有免疫力的病毒, 则可能使数千万人丧失生命。新兴技术特点之二是它们的不确定性。风险是人们对我们所采取的干预措施 (或不采取干预措施) 可能发生的消极后果的严重程度和发生概率可以大致预测的精神状态。当风险的严重程度及其发生的概率可以预测时, 我们可采取风险评估和风险管理方法加以应对。与风险不同的是, 不确定性是我们对我们采取何种干预措施或不采取干预措施后的未来事态的决定因素缺乏知识, 因而难以预测其可能的风险的一种精神状态。我们对所采取的干预措施可能引起的后果难以预测, 影响后果的因素可能太多、太复杂, 相互依赖性太强而不能把握。例如用于管理电网、核电站等重要设施的人工智能软件可能发生难以预测的差错。贺建奎所做的生殖系基因组编辑是典型的不确定性例子。将卵、精子、受精卵或胚胎中的基因组进行编辑后, 我们难以精确发现基因组编辑是否损害了正常基因, 被敲掉的被认为致病的基因是否还有更强有力的免疫能力, 更不能把握基因组经过修饰的胚胎发育成人后是否能预防艾滋病病毒感染, 即使她们终身没有感染艾滋病病毒是否就是基因组编辑的后果, 她们对其他疾病尤其是传染病是否有易感性, 她们整体的身体状况比没有经过编辑的孩子是好还是糟, 她们未来的孩子的身体状况以及未来的孩子的后代的身体状况怎样?对这些问题我们都无法回答, 因为缺乏必要的信息。在这种情况下我们无法对生殖系基因组编辑进行必要的风险受益比评估, 也不能对提供胚胎的遗传病患者 (即未来孩子的父母) 提供必要和充分的信息, 使他们能够作出有效的知情同意。这个例子还说明, 与风险相对照, 不确定性可包括“不知道的事情未知” (unknown unknowns) 的情况, 即我们不知道还有哪些我们应该知道而目前不知道的情况。风险与不确定性的区别具有规范性意义。规范性的决策理论要求我们在面临的是风险还是不确定性时区分不同的合乎理性的决策策略, 例如面临不确定性时对于确定什么样的目标必须小心谨慎。新兴技术之不确定性, 可以由于多种原因。例如我们不知道什么时候科学家在实验室制造出对人和社会有危险的技术或产品;在什么时刻容易获得自然产生的危险有机体;我们也不知道他们生产出危险的技术和产品需要何种资源, 包括技能、设备和金钱;由于新兴技术的新颖性, 连科学家也不能预测他们生产的产品如何影响生物多样性和自然环境 (例如我们没有类似的经验可用来预测合成有机体的环境影响, 即我们不可能预测所有潜在环境伤害的性质、概率和严重程度) ;科学家和监管机构均处于“无知”状况之中, 不能确定其产品影响人的健康和破坏环境的概率及其性质, 因而无法采取有效措施加以应对。[9]129-171新兴技术主要特点之三是它们往往具有双重用途的特性, 即一方面可被善意使用, 为人类造福;另一方面也可被恶意使用, 给人类带来祸害。例如合成流感病毒可用来研制疫苗, 也可用来制造武器。这是大多数常规技术不可能有的特点, 例如制造电视机, 就很难说该技术本身有双重用途。而且一门新兴技术越发达, 其被恶意利用的可能就越大。在人工智能软件开发之中, 技术越先进, 其被利用作为恶意软件、敲诈软件的可能也就更大, 恶意使用者施行攻击的成本降低, 攻击的成效提高, 影响的规模增大。双重用途的特性增加了不确定性, 例如我们难以完全掌握恐怖主义利用新兴技术进行袭击的概率, 因为不可能获得所有必要的情报信息。[10]新兴技术主要特点之四, 是它们会产生出一些我们从来没有遇见过的新的伦理问题。例如人工智能软件对于我们人类做出涉及未来的决策能够起很大的积极作用, 可是人工智能的决策是根据大数据利用算法做出的, 算法能在大数据中找出人们行为的模式, 然后根据这种模式预测某一群人未来会采取何种行动, 包括消费者会购买何种商品, 搜索何种人可担任企业的高级执行官, 某种疾病在某一地区或全国发生的概率, 或在某一地区犯过罪的人有没有可能再犯等等, 然后根据这种预测制订相应的干预策略。然而, 模式是根据数据识别出来的, 而数据是人们过去的行为留下的信息, 根据从过去行为的数据识别出的行为模式来预测人们未来的行为, 就有可能发生偏差或偏见。例如在美国多次发现算法中的偏差, 结果显示种族主义和性别歧视偏见。安保机构往往根据算法来确定黑人容易重新犯罪, 尽管实际上白人罪犯更容易重新犯罪。由于在大数据中往往将“编程”“技术”等词与男性联在一起, “管家”等词则与女性联在一起, 因此人工智能的搜索软件往往推荐男性做企业高级执行官等。再则, 人有自由意志, 一个人过去犯过罪, 他可以选择今后不再犯罪。[11,12]

　　三、新兴技术的伦理问题新兴技术的伦理问题, 亦即在有关新兴技术的创新、研发和应用方面我们应该做什么和应该怎样做的规范性问题。我们如何在许多因素不确定的情况下对新兴技术的创新、研发和应用方面的风险受益比做出合适的评估, 以及尊重作为利益攸关者的人, 维护他们作为人的权利和尊严, 这是新兴技术的两个基本伦理问题。根据新兴技术的特点, 我们将着重讨论为人类造福、伦理先行、公平可及、消除歧视四方面的问题。(一) 为人类造福贺建奎事件的一个教训就是, 科学家本身以及监管人员应教育科学家, 科学是为人类造福, 不能仅仅把它视为为自己追逐名利的手段。“为人类造福”是一个非学术性术语, 我们的想法是想用以强调从事新兴技术的创新、研发和应用活动的目的, 是为人类造福, 因此我们科学家和监管人员必须使参与活动或受此活动影响的作为人的利益攸关者 (包括病人、受试者、科研人员、资助者、公众) 可能获得的受益最大化, 而风险最小化。生命伦理学基本原则往往列为不伤害、受益、尊重和公正原则。其中“受益”原则有时用“行善”“向善”“仁慈”等词代替, 这是大谬不然。“受益”源自英语beneficence, 作为一般用语, 它有“怜悯”“仁慈”“慷慨”“慈善”等意, 也提示“利他”“爱人”“人道”和“行善”。但在伦理学中作为一项伦理学的原则是指一个人的行动使他人受益的道德义务, 促进他们重要的和正当的利益。因此, 这种使人“受益”是一项必须做的义务。在这种情况下, 使人受益是一项道德义务。使人受益的行动也可以是非义务性的, 是超越了义务之上的使人受益的行动, 虽然不一定达到道德圣人和道德英雄的理想 (例如雷锋那样的高度) 。在伦理学上, “受益”这一术语最早用于《纽伦堡法典》之后发展起来的研究伦理学, 是说研究人员的干预应有利于受试者的福利, 使社会受益, 后来用于临床伦理学, 是说医务人员的干预必须使病人受益。因此, 在研究和临床情境下受益是科学家和医生等专业人员的道德至上命令, 不是一项可允许做或可允许不做的行善行动[13], 例如治病救人使病人受益是医生的专业义务, 医生替病人付费则不是医生的义务, 但如果医生做了, 那位医生就做了一件超出义务以外的行善好事, 值得表扬。但没有替病人付费的医生并不会因此而被谴责没有尽其作为一个医生的专业义务。然而, 在通常的诠释中将不伤害原则列为一项独立的原则, 有一些不合适。因为不论是在临床、研究还是公共卫生情境下, 任何干预都有可能产生伤害, 即风险。不存在没有任何风险的干预。即使不存在身体 (刺伤、割伤) 、精神 (焦虑) 、经济 (病人负担不起医疗费用) 、社会 (遭受歧视) 的可能伤害, 而信息风险则是始终存在的, 干预过程产生的与病人或受试者有关的私人信息, 始终存在被泄露的风险。尤其是新兴技术, 可能会给社会带来大受益和大风险, 所以我们建议将新兴技术的利益攸关者作为单元来考虑。例如公众中一部分人也许并没有从新兴技术的研发应用中受益, 可是如果管理电网或核电站的软件出差错, 他们却成为受害者。然而我们也不能仅仅以这部分公众的风险受益来考虑, 需要将利益攸关者作为整体来考虑。因此, (1) 我们不将不伤害原则和受益原则分别作为单独的原则来考虑, 而是将对作为整体的利益攸关者的风险受益来考虑; (2) 享有有利的风险受益比的权利主体也不仅是单个病人、受试者或某个目标群体, 而是作为一个整体的利益攸关者, 但在具体案例中构成利益攸关者整体的各组成部分 (例如病人或受试者或其他公众) 享有的权利则按照每个案例的具体情况而做出加权的决定; (3) 承担确保风险受益比有利的义务的主体, 也不仅仅是相关科学家、企业或主管部门, 也是一个参与治理该新兴技术的总体, 但科学家、企业、主管部门在每个具体案例中负多大责任, 也应视具体情况而定。这一点与美国生命伦理学问题总统理事会的报告有类似之处。[14]该报告提出评估新兴技术基本伦理原则时第一项就是公众受益, 并解释所采取的行动要使公众受益最大化和公众伤害最小化。这项原则包括社会及其政府有义务促进个人和机构尽其可能改善公众福祉 (wellbeing) 的实践 (包括科学和生物医学研究) 。这里明确指出, 发展新兴技术的根本目的是促进公众的福祉。将wellbeing引入伦理原则之中是一个值得考虑的问题, 从一般的字义来说, wellbeing是指良好的状态, 可以说是一种“善存”的状态。在翟晓梅和邱仁宗的《公共卫生伦理学》[15]中将wellbeing译为“安康”, 包括健康、人身安全、理性、依恋、自决和体面的生活水准若干层面, 而公共卫生的伦理基础就在于健康是维护人的安康或福祉最为重要的层面。但要确保为人类造福或使公众受益最大化和伤害最小化就必须确保利益攸关者的安全 (biosafety) 和安保 (biosecurity) 。例如作为一门新兴技术的合成生物学的产品可能对人的健康和环境有风险, 如合成的病毒或细菌对人有致病性, 或其产品严重伤害某些种类的动物或植物, 破坏了食物链, 扰乱了生态平衡;合成微生物与环境或其他有机体可能产生始料不及的相互作用, 从而对环境和公共卫生造成风险;合成微生物释放入环境可能引起基因水平转移和影响生态平衡, 或发生演变产生异常功能, 对环境和其他有机体产生前所未有的副作用。合成生物学的安保问题是指, 因使用合成的致死的和有毒的病原体进行恐怖主义袭击, 或个人为私仇进行报复等种种恶意使用, 尤其是当生产这些病原体的知识和技能唾手可得时。例如在媒体广为报道的美国某实验室工作人员将炭疽杆菌装在信封内通过邮寄发送给许多单位和个人就是一例。合成生物学这种目的的使用包括生产生物武器, 例如新的或改变了的致病病毒或细菌以及制造产生毒素的合成有机体。这引起了哪些研究应被允许以及哪些研究成果允许发表的争论, 例如科学家对抗疫苗的鼠痘的基因工程和小儿麻痹病毒的人工合成的研究成果应不应该发表的问题就有不同意见。[16](二) 伦理先行贺建奎事件的一个教训是, 在为了增强人体免疫力这类可遗传基因组编辑那样的新兴技术研发中采取了技术先行的径路。尽管他和他的助手也制订了一些规则, 但这些规则既不完善, 更没有实际执行, 只是他肆意妄为的一块遮羞布。技术先行的径路也可译为占先行动径路 (proactionary approach) , 就是“干了再说”。我国发展纳米技术就是走的这条径路, 那么多纳米实验室和纳米材料车间, 却不首先开展纳米粒子的毒理学研究, 至今也没有制订安全标准, 直到一车间7名女工肺部患病, 其中2人死亡也仍然无动于衷。[17]而相关研究已明确指出:“这些病例提请大家注意, 长期接触纳米粒子而无任何保护措施可能与人肺脏严重损害有关。将已经侵入细胞并位于细胞质和肺上皮细胞核质内或已经聚合在红细胞膜周围的纳米粒子消除是不可能的。为了保护接触的工人不患纳米粒子引起的疾病, 有效的保护措施是极为重要的。”技术先行背后的错误理念是:趁现在没有伦理规范, 赶紧把纳米技术发展起来, 赶上技术先进国家;使国家占领这个技术高地, 这比遵守伦理规范更重要。所以过去从事科技管理的一些领导会说:“现在不是谈论伦理问题的时候!”当然, 发展纳米技术的技术先行的这种径路不仅存在于我国, 也存在于其他国家。因为其他国家的科学家和主管部门领导也有同样的错误理念。同样, 类似贺建奎的想法在国外也有, 但国外对生物医学的监管, 总的来说比较严格, 因此对于那些在本国被禁止的试验, 这些科学家就设法到伦理和法规约束不严格的国家去做, 在我国前有“黄金大米试验”,[18]后有头颅移植,[19]国外将这种把不合伦理的研究转移到不发达国家的行为称之为“伦理倾销” (ethics dumping)[20], 我们建议专门对国外科学家将不符合伦理研究倾销到我国来的案例作一系统的调查研究。我们建议的伦理先行包含如下一些要素: (1) 前提是认为监管或治理常规技术的办法没有考虑到新兴技术的特殊性, 例如特殊的产品、用途或影响, 及其可能引起特殊的以前没有遇到的重要伦理问题, 因此不能认为我们有了药品质量管理规范, 有了生物医学研究伦理审查办法, 就不需要为每一项新兴技术另订管理办法。(2) 在每一项新兴技术的创新、研发和应用的研究项目立项 (此时科学家尚未启动研究活动) 时, 对其可能的风险和受益、恶意利用的可能、不确定性、对其他科学技术和社会可能产生的影响 (例如引起种族、性别歧视) 、公平可及、知识产权、问责和追责、透明性、公众参与等伦理问题尽可能进行前瞻性伦理分析, 这种伦理分析的形式化表达可以是:●技术X可能导致伤害甚至杀害无辜的人方面的应用。因此, 为了防止这种应用对X进行强有力的监管是必要的。●技术X很可能导致侵犯隐私的应用和使用。因此, 它的引入和研发应该设法加强隐私保护措施, 使这种伤害最小化。●技术X将产生加强社会经济不平等的产品。因此, 引入和研发它应该考虑采取能够实现公平可及的种种办法。如此等等。(3) 在此分析基础上提出一套对该新兴技术的暂行管理办法。(4) 依照一定的程序, 在科学家、生命伦理学家、法学家、公众代表以及监管人员经过讨论达成一致意见后, 这套办法就是该新兴技术科学或医学共同体的伦理规范, 并经过主管部门批准形成具有法律效力的暂行管理办法。(5) 这一暂行管理办法是试验性或实验性的, 将随着我们对该项技术的知识和信息增多、经验的丰富而“与时俱进”, 随时修改、补充、完善这一暂行办法。这里关键的是要随时紧盯该技术在国内外的进展, 不要使我们暂行的管理办法与科技的发展脱节。(6) 对新兴技术前瞻性伦理分析和研讨以及暂行办法的制订都应该在与国际科学共同体保持交流的情况下进行。伦理先行径路的优点是, 它是唯一能够对新兴技术进行详细而全面地前瞻性伦理分析的径路;而其缺点是, 它依靠的有关未来的信息在一定程度上是不确定和推测性的。因此, 在向前看新兴技术未来发展、使用和后果时, 难以作出完全可靠的预测。然而即使预测不完备, 不完全可靠, 总比没有要好, 而且上面我们已经说过, 暂行管理办法不能僵化不变, 要随着这门技术的发展和我们知识的增多而及时调整、修正、完善。(三) 公平可及新兴技术过去存在一个比较大的伦理问题是, 当一项新的产品研发出来后, 迫不及待地投入市场, 不考虑怎样使利用纳税人的钱发展科技的新成果能够让更多的人享用。当然这个问题不仅存在于我国。例如欧美等国研发肿瘤免疫疗法, 一次治疗就要50～100万美元或欧元, 结果仅能为极少数有钱人享用, 加剧了社会上本来已经存在的不平等、不公平, 也影响产品本身的推广。荷兰一个生产这种产品的企业因无人订货只好关门息业。造成无法实现新的安全而有效的产品公平可及的一个原因是, 专利制度的缺陷。许多年来, 博格 (Thomas Pogge)[21]等著名哲学教授曾多次指出, 专利制度虽然保护发明家的利益, 在一定程度上促进科学发明事业, 但也有越来越多的事实揭示, 专利制度阻碍了新的发明。这里有几种情况:其一, 给予的专利过分广泛, 甚至包括一些基础知识、技术和工具。如果专利太广泛地赋予进一步创新和研发所需的基础性的知识、技术和工具, 专利就会限制科学家的发明, 阻碍科学进步。有人论证说, 基础性工具或技术不属于可专利题材的范围。对这些基础性工具的垄断可阻碍而不是促进发明。近10年来, 一直有人认为, 对人的基因序列赋予专利对基因研究有损害影响。如对BRCA1和BRCA2赋予专利, 这种专利影响了对病人的治疗, 阻碍了对这些癌症检验方法的改善, 因而对病人、研究人员和生物技术企业的代价太高。其二, 专利诉求的范围过宽, 连DNA的一些短的片段也可申请专利, 如BRCA突变基因, 它们是自然现象, 不应包括在可专利的范围之内。其三, 一些专利持有者被称为专利囤积者, 他们不利用他们的发明或使发明商业化, 而是用作勒索赎金收取高额费用。还有人担心专利使得科学家越来越不愿意与他人分享他们的研究。这样一些情况, 就会造成一些学者所说的专利丛林 (patent thickets) 和反公共品 (anticommons) , 即知识产权在上游扩散可窒息研究和产品研发过程中下游挽救生命的创新, 过分多的专利被称为专利丛林, 由于许多人类基因组内的序列为专利持有者获得专利, 变成了他们的私人占有品, 因而成为反公共品。过多的专利使得下游产品价格昂贵, 需要用它们进行研究发明的科学家买不起, 使本来可能有的新发明不能实现;而如果以昂贵的价格购买这些基础性技术和方法, 就会使新发明的终极产品价格昂贵, 唯有富人才能购买得起, 大多数消费者只能望洋兴叹。[9]251-257这里需要研究的伦理问题有: (1) 如何对专利制度进行适当区分, 采取相应的补充办法, 减少专利制度的消极作用。质量差的坏专利可阻碍创新, 过分限制性的许可和太宽泛的专利诠释可拖延新兴技术的发展, 宽泛的基础性专利和专利丛林都可能阻碍创新。然而我们也不应该取消专利, 因为专利给发明家提供重要的激励。但我们需要考虑两个重要的方面, 即专利的质量以及专利持有者的许可行为, 高质量的专利可满足专利性的伦理和法律要求, 促进创新和科学技术的发展。对专利持有者也应该有道德要求和伦理规范。尤其值得注意的是, 在专利之外, 我们可以像在合成生物学共同体已经做到的那样, 科学家自愿自动建立一个公共空间, 大家在其中分享各自发明的技术、工具和方法, 而不去申请专利。这是一个值得我国科学家以及主管部门支持的创举。(2) 可专利的题材。发现自然律不可专利, 应用自然律发明的程序可以专利, 因为里面有发明, 在自然律上增添了许多新东西。例如在合成生物学之中, 利用自然过程如细胞内基因重组时必定要在自然过程上添加足够多的东西, 才能发明这些程序, 那么这些程序就可以申请专利。这就是要区分自然律、自然过程和抽象观念与可获得专利的应用。在颁发专利时一要考虑是否在前者上面增添了什么, 二要考虑增添了多少。确定抗癌药物有效性的方法不能申请专利, 但筛查潜在癌症药物的方法可申请专利, 因为让细胞生长和判断其生长率的步骤具有转化性 (transformative) 。如果方法包含一些可用来创造新的、具有转化性的东西的步骤, 那么这种方法可获得专利。通过装配较小的DNA片段或标准的组件, 或通过安装这样一种合成DNA来合成一个细胞的方法可能就是可获得专利的题材。这种方法已经超出了自然过程, 把现存的物质转化为某种自然界不存在的东西。专利有效性 (patent validity) 的标准还有:明显性、新颖性、可实施性、充分的书面描述。然而, 对哪些东西是可申请专利的题材仍有不同意见。如美国有些法院判定, 孤立的DNA和cDNA序列不是可专利的题材, 但有的法院认为cDNA分子可申请专利, 因为它们与自然中的DNA有不同的结构和基因序列。美国最高法院对“人的基因是否可获得专利?”这一问题的回答是:自然产生的DNA片段是自然的产物, 不能获得专利, 因为它仅仅是被分离出来, 但cDNA是可专利的, 因为它不是自然产生的。那么, 合成DNA是否可申请专利?合成DNA的可专利性很重要, 因为在未来DNA合成很可能越来越成为用来产生人设计的DNA建构物 (constructs) , 例如标准生物学零件的方法。DNA合成的费用在降低, 有效性在增加。合成DNA的可专利性要考虑合成的DNA与自然产生的DNA有多大差异。DNA是一类独特的分子, 它有物理结构和形态, 在DNA基因序列上还带有编码的信息。美国有的法院判决时重点置于DNA中包含的基因序列信息上, 而不是它的化学结构上, 也置于创造一个非自然产生的分子上。合成DNA片段与自然产生的DNA片段的基因序列相同则不能申请专利。这里有两个问题:一是, 是否有显著不同特征;二是是否有重要的用途。总的来说, 很可能是, 合成的、计算机设计的DNA要比生物学家过去所用的DNA更容易满足自然排他产物 (product of nature exclusion) 的检验, 因为基因序列是由人写的。作为结果的产物不是在自然之中产生的, 而显然是人干预生产出来的。(3) 专利有效性的标准。我们是否可以将专利有效性的标准定为:一项发明必须是新的和有用的“程序、机器、制造物或物质的组件”, 当这项发明是新颖的、不是平淡无奇的, 且含有一份书面的描述足以使在有关领域有技能的人使用这项发明。为了是新颖的, 这项发明必定不是已经在任何现存的专利、专利申请或出版物中找到的, 或公共使用的、出售的或以其他方式为公众可得的。平淡无奇的检验是, 所声称的发明与以前的技艺 (art) 之间的差异, 使得对一个有平常技能的人来说作为整体的所声称的发明是平淡无奇的。为了成为“有用的”, 发明必须以目前的形式具有现实世界的用途。该发明的用途必须是实质性的和具体的, 显示对公众有显著的和目前可得的受益。满足书面描述和实施性 (enablement) 要求。前者要求申请人证明他们拥有发明, 后者要求申请人提供充分的信息使得一个在该领域具有通常技能的人能利用该项发明。[9]259-280(四) 消除歧视可遗传基因组编辑的目的是生出一个不患她/他父母患的遗传病的孩子。因此, 在纳菲尔德生命伦理学理事会的意见中将基因编辑用于人类生殖的原则1是:为了未来的人的利益。这个原则要求我们的医生/科学家应该将接受基因组编辑操作的配子或胚胎仅仅用于这样的目的:确保一个可能出生的人的利益, 是进行这种操作的结果。这一原则要求我们充分考虑如何维护一个可能要出生的人的利益。我们对未来父母的配子或胚胎进行基因编辑, 其唯一的目的是生出一个没有遗传病的孩子, 而不是为了赚钱 (当然要进行成本核算) , 也不是为了优生学 (eugenics) , 即目的是让所谓“优生”的个人或种族得以繁衍, 限制所谓“劣生”的个人或种族生殖。[22,23]因此, 消除歧视, 即社会上不存在对遗传病患者歧视, 是允许进行可遗传基因组编辑的条件。

　　四、新兴技术的监管问题治理 (governance) 的概念要比监管 (regulation) 宽。监管是治理的重要部分。治理的主体是领导机构, 例如政治局、国务院等党政领导机构, 地方政府的党政领导机构, 各个部门的领导机构, 公司的董事会, 学校的校务委员会等, 其任务是就大政方针做出决定, 为决定的实施进行规划、分配资源 (人力、财务) , 对决定的实施进行监督, 对实施的结果进行评估, 其决定涉及领导机构所管实体的使命、价值取向、愿景和结构。治理的事情一般是比较大的事, 有关未来的事, 涉及核心使命和价值取向的事, 高层次的决策, 布置下去的事情是否在执行, 监督机构是否在监督等。而监管是根据一组规则对某一事业、活动进行监督、管理、控制, 尤其是政府根据一组规则进行管控。需要监管往往是由于:市场失灵、社会集体的愿望、专业发展的需要、利益的调整等。这里主要讨论政府对新兴技术的监管问题。新兴技术的监管问题主要有如下三个方面。(一) 监管的概念、作用和衡量标准以及监管失灵监管是监管机构 (被授权从事监管活动的政府机构) 采取的干预措施, 以良好的方式控制和引导有关人们的行动。由企业或科学家或其共同体采取的这种干预措施是“自我监管”。外部监管则包括来自政府的监管或公众的监管。监管环境 (regulatory environment) 包括以上所说的干预措施, 如法律、法规或规章的体系, 政府监管制度, 不同层次的伦理审查机构和制度, 也包括机构、省市一级和部一级的伦理审查委员会及其审查机制, 能力建设机制和考查、评估机制等。监管在新兴技术中的作用是什么? (1) 监管机构和监管既要将新兴技术对公众的受益最大化, 又要将其潜在的伤害最小化。监管的作用包括管理与新技术相关的风险问题, 但也促进对社会有益的创新。(2) 设定技术创新的限度、协调风险评估和管理、设计公众参与的程序以及设定赔偿责任的条款, 都将落在政界人士和监管机构的肩上, 最终要通过制订法律实施。(3) 监管对技术的研发和使用既有约束作用, 又有促进作用。这就需要法律与技术一起合作改善人类社会存在的基本条件。为此我们需要一个促进有益的创新, 使得大家能分享这些技术的受益, 又让我们管理风险的监管环境。根据什么标准来衡量一个监管体制? (1) 正当性 (legitimacy) :监管目的、手段和程序的可辩护性, 即根据什么理由需要对这项技术进行监管; (2) 有效性 (effectiveness) :监管的制度和措施应达到预期目的, 尽可能避免监管失灵; (3) 审慎性 (prudence) :由于不确定性, 监管措施应该慎之又慎, 因缺乏必要而充分的信息, 决策是暂行的, 应该与时俱进, 随时因技术或社会情况的发展而修改; (4) 连接性 (connection) :监管切不可脱离科学的发展, 应该密切注视科学和技术的前进步伐, 适时对监管措施作出调整; (5) 国际性 (cosmopolitanism) :亦即要与国际接轨, 决不可坐井观天, 必须参与制订国际框架, 分享各国经验, 与不同价值、不同文化的各国代表一起解决共同面对的问题。[9]9-22监管失灵的因素有: (1) 监管腐败。监管者与被监管者有利益关系, 因此监管如同摆设, 不起任何作用。(2) 监管能力不足。前面我们已经讨论过黄金大米试验事件, 该事件表明我国机构伦理审查委员会能力不足。目前各国纳米技术的监管很差, 监管者没有采取积极措施来应对纳米材料的风险, 以为目前已有的监管规定已经足够, 不了解纳米材料的特异性质。这说明对于每一特定的新兴技术, 都需要特定的监管措施。(3) 监管产生意外后果。例如知识产权制度, 特别是专利制度, 旨在激励创新, 然而在某些新兴技术领域专利制度实际上可能阻碍创新, 需要改革专利制度。(4) 监管阻力。当被监管者抵制监管干预时, 监管失灵也会出现。贺建奎事件说明当事人对相关监管措施是了如指掌的, 但出于追求名利的原因 (如企图一鸣惊人获得诺贝尔奖金, 或设法推销他所谓的“第三代测序仪”为其公司谋取利润) , 故意采取欺骗、逃避措施抵制监管。因此有人提出“反应性监管” (responsive regulation) 或“巧监管” (smart regulation) , 一是如不依从就逐渐增加监管强度, 二是采取多种办法实施监管, 如监管机构寻求与利益攸关者 (例如资助者) 合作, 达成共识, 让他们也参与监管。由于这种种监管失灵的情况, 许多人坚决反对自我监管, 自我监管往往变成有利于监管对象的监管。[9]15-19(二) 自我监管与外部监管不少科学家和科学共同体愿意进行自我监管, 这是非常积极的现象。但科学家和科学共同体必须理解, 自我监管是不够的。因为其一, 科学家往往需要集中精力和时间解决创新、研发和应用中的科学技术问题, 这是很自然的和可以理解的, 可是这样他们就没有充分的精力和时间来关注伦理、法律和社会问题;其二, 现今科学技术的伦理问题要比例如哥白尼、伽利略甚至牛顿时复杂得更多, 而伦理学, 尤其是科学技术伦理学或生命伦理学也已经发展为一门理性规范学科, 它们有专门的概念、理论、原则和方法, 不经过系统的训练是难以把握的;其三, 现今的科技创新、研发和应用都是在市场情境下进行, 这样科学家就会产生利益冲突, 没有外部监管, 只有自我监管, 就会出现“既当运动员, 又当裁判员”的情况。外部监管有两类:一是政府对新兴科技自上而下的监管, 这是最为重要的, 这就要建立一套监管的制度, 自上而下的监管也包括人民代表机构和政治协商机构的监督, 这是我们缺少的;自上而下的监管就要对违规者问责、追责、惩罚, 再也不能让违规者不必付出违规成本。二是利益攸关方的自下而上的监管, 利益攸关方包括人文社科诸学科相关研究人员、有关的民间组织和公众代表。我国的监管人员必须了解到, 对于新兴技术, 政府、科学家、企业三驾马车是不充分的, 必须有公共参与, 即人文社科专家和公众代表在上游就应该参与决策。(三) 对新兴技术不确定性的监管应对不确定性的办法之一是防范原则 (precautionary principle) 。防范原则于20世纪70年代在德国国内法首先被引用, 后被国际法采用。防范原则指导监管者应对潜在伤害的科学不确定性, 人们说防范原则是一个确保“安全比说对不起要好” (better to be safe than “sorry”) 的原则。防范原则不适宜应用于: (1) 当伤害的类型已知, 概率可定量时; (2) 当伤害仅是假设性的或想象中的风险时。但在二者之间防范原则可适用: (1) 潜在伤害类型已知, 但因果关系未知或不确定, 因此不能估计概率; (2) 影响范围已知, 但其严重程度不能定性估计。在应用防范原则时要考虑可得的科学证据, 应用防范原则前先对问题进行科学方面的考查。防范原则被解释为:只要对健康、安全或环境有风险, 即使证据是推测性的, 即使监管成本很高也要进行监管。这是一种强的说法。这容易遭到反对。这里的问题是:为监管辩护, 要求什么样的证据, 以及是否也要考虑其他方面的风险 (例如不能把资源都用于预防新兴技术的风险)对于防范原则存在着一些误解, 把它诠释为“防止” (preventive) 原则。我们对科学技术的发展可以有三种径路:一是促进径路;二是防止径路, 要求直到一切可能的风险已知和得到消除时才能发展该技术;三是防范径路, 处于促进与防止之间。采取防范原则的前提是:对科学技术风险的评估具有不确定性以及有必要采取行动。根据新兴技术的具体情况实施防范原则是为在不确定情况下采取限制性措施进行辩护。防范原则并不要求采取行动应对任何程度的潜在伤害, 要采取行动对付的伤害应该是“严重的”“重要的”, 而不是纯粹假设性的, 或仅仅是推测性的, 这时就产生了我们有义务采取行动进行监管。实施防范原则要考虑采取行动的成本, 如应该是成本有效的 (cost-effective) , 这是要求我们的投入能够为防治疾病、增进健康、延长寿命、改善生活质量作出多少贡献, 而不是问“经济效益”“创收多少”。有人建议应该在应对不确定性的监管制度中建立一个计划适应 (planned adaption) 机制, 目的是获得与政策及其影响有关的新知识, 允许修改政策和规则以便与这些知识相适应。在有不确定性的地方, 监管政策和措施应该被看作是实验性的, 即要在收集到的相关信息基础上, 将监管政策和措施更新。计划适应要求改变人们的思维, 从将政策决定看作“最后的” (这是我国常有的情况) 改变为将制定公共政策视为“开放的”。[9]133-162

　　[1] POPPER K.Natural selection and the emergence of mind[EB/OL].[2019-01-05].http://www.informationphilosopher.com/solutions/philosophers/popper/natural_selection_and_the_emergence_of_mind.html.

　　[2] POPPER K, ECCLES J C.The self and its brain:an argument for interactionism[M].New York:Springer-Verlag, 1977:15.

　　[3]ROTOLO D, HICKS D, MARTIN B R.What is an emerging technology?[J].Research policy, 2015, 44 (10) :1827-1843.

　　[4] 雷瑞鹏, 邱仁宗.应对新兴技术的伦理挑战:伦理先行[EB/OL].[2019-05-12].https://www.toutiao.com/i6689682363405828612/.

　　[5] 邱仁宗.应对新兴科技带来的伦理挑战[N].人民日报, 2019-05-27 (09) .

　　[6] SHANAHAN M.The technological singularity[M].Cambridge:MIT Press, 2015:233.

　　[7] BOSTROM N.Existential risks:analyzing human extinction scenarios and related hazards[J].Journal of evolution and technology, 2002, 9.

　　[8] CELLAN-JONES R.Stephen Hawking warns artificial intelligence could end mankind[EB/OL]. (2014-12-02) [2019-01-05].https://www.bbc.com/news/technology-30290540.

　　[9] MCLENNAN A.Regulation of synthetic biology:biobricks, biopunks and bioentrepreneurs[M].Cheltenham:Edward Elgar Publishing, 2018.

　　[10] BRUNDAGE M, AVIN S, CLARK J, et al.The malicious use of artificial intelligence:forecasting, prevention, and mitigation[R]arXiv preprint arXiv:1802.07228, 2018.

　　[11] House of commons, science and technology committee, UK.Algorithms in decision-making:Fourth Report of Session 2017–19[R/OL]House of Commons, 2018 (2018-05-23) [2019-01-05].https://publications.parliament.uk/pa/cm201719/cmselect/cmsctech/351/351.pdf.

　　[12]SPIELKAMP M.Inspecting algorithms for bias[J].Technology review, 2017, 120 (4) :96-98.

　　[13]KINSINGER F S.Beneficence and the professional's moral imperative[J].Journal of chiropractic humanities, 2009, 16 (1) :44-46.

　　[14] Presidential Commission for the Study of Bioethical Issues.New directions-ethics of synthetic biology and emerging technologies[R].Washington, DC:Presidential Commission for the Study of Bioethical Issues, 2010.

　　[15]翟晓梅, 邱仁宗.公共卫生伦理学[M].北京:中国社会科学出版社, 2016:24-39.

　　[16]翟晓梅.合成生物学的伦理和管治问题[M]//中国科协学会学术部.合成生物学的伦理问题与生物安全.北京:中国科学技术出版社, 2011:87-91.

　　[17] SONG Y, LI X, DU X.Exposure to nanoparticles is related to pleural effusion, pulmonary fibrosis and granuloma[J].European respiratory journal, 2009, 34 (3) :559-567.

　　[18] 吕诺, 胡浩.“黄金大米”试验违规相关责任人被撤职[EB/OL].[2019-01-05].http://www.xinhuanet.com/politics/2012-12/06/c_113936622.htm.

　　[19]雷瑞鹏, 邱仁宗.人类头颅移植不可克服障碍:科学的、伦理学的和法律的层面[J].中国医学伦理学, 2018 (5) :545-552.

　　[20] SCHROEDER D, COOK LUCAS J, HIRSCH F, et al.Ethics dumping:case studies from North-South research collaborations[M].New York:Springer Open, 2018.

　　[21] HOFFMAN S J, POGGE T.Revitalizing pharmaceutical innovation for global health[J].Health affairs, 2011, 30 (2) :367.

　　[22] Nuufield Coucil on Bioethics.Genome editing and human reproduction:social and ethical issues[R].London:Nuufield Coucil on Bioethics, 2018:58-68.

　　[23]雷瑞鹏, 冯君妍, 邱仁宗.对优生学和优生实践的批判性分析[J].医学与哲学, 2019 (1) :24-29. 

　　雷瑞鹏，华中科技大学人文学院教授、生命伦理学研究中心执行主任。邱仁宗, 中国社会科学院哲学研究所研究员, 华中科技大学人文学院教授、生命伦理学研究中心主任。本文经作者授权发布。文章观点不代表主办机构立场。

　　◆ ◆ ◆