剩余风险最小是科技伦理的长期目标

  【科技随笔】 

  在大科学时代，科学作为最重要的社会建制积聚了大量的知识、人才与资源，一旦某个领域出现重大技术性突破，在互联网时代信息流通与获取如此便捷的当下，不可避免地会引发其他领域迅速向其周围集中并形成资源汇聚效应。若此时这个全新领域尚无可以被普遍接受与认同的新规范来引领共同体的行为，在规范真空状态下，在外部无序竞争与内在强烈渴望获得承认的双重激励下，此时极易出现群体失范现象。而科技伦理，就是最大限度防范科技领域出现群体失范的屏障。

  这几年出现的区块链热、元宇宙热等带来的问题，无不说明了这种热点引流现象——如果仅仅在科技资源流动层面出现无序还好处理，问题是这些科技活动所带来的潜在后果往往无法预料——或许是正向的，或许将带来人类无法承受的损失。

  这种情况在小科学时代是无法想象的。那时一项重大成果出现往往要“孤独”很多年，由于学科间发展梯度的广泛存在，周围匹配的知识、人才与资源都很少，不会造成多大的资源损失以及引发不可控的潜在后果，如19世纪60年代孟德尔通过实验所发现的遗传定律，要30多年后才会被重新发现，并积极推进。而其时，人类已经能够较好地认识这一规律，并规范其发展了。

  因此，在大科学时代，从某种程度上说，科技伦理变得更为重要了。客观地说，当下科技伦理问题日益引起社会各界的关注，绝非杞人忧天，而是我们已经到了这样一个时代：以5G、大数据、人工智能、脑机接口、神经增强等为代表的第四次工业革命正渐次展开，不确定性离我们从来没有像今天这样近。人类对于自身的未来必须要有一种理性的自觉，毕竟未雨绸缪总要好过临时抱佛脚的慌乱。

  从这个意义上说，人类今天已经发展到了必须根据自己的理性决定自己未来的时代了。科技的目标就是最大限度上增加人类的福祉，而科技伦理的目标则是最大程度上捍卫共同体的行为底线，以保障科技向善的前进轨道不跑偏，因此，两者并不矛盾，而是相辅相成的。众所周知，任何科技创新，其后果总是存在或多或少、或明或暗的风险，而有效的科技伦理行动路线就是充分调动各层级主体的自觉性，逐级降低科技活动带来的潜在风险，从而实现科技成果的剩余风险最小化的目标。

  在整个科技创新链条上存在四类行为主体，分别是科技创新者、政策制定者（兼有监督管理职能）、消费者与公众。为了使科技伦理的目标得以实现，可以通过建立分布式伦理责任框架，使科技创新在整个链条上受到多方利益主体的伦理约束，从而实现创新引发的风险在分阶段流程上被有效消解，并最终达到剩余风险最小化的目标。

  毫无疑问，在创新链条上各类主体承担的伦理责任是不同的。对于科技创新行动者来说，由于自身认知的局限，总会面临非主观意愿的后果，而这些后果会带来巨大潜在风险。过去十年间，国际上流行的负责任创新理念就是针对这个环节而提出的。2018年，我国一些科技企业与学者共同提出了“科技向善”的理念，也是针对此问题而来的。问题是，自我监督与约束在监管层面总是存在信息不对称带来的约束不足现象，因此，必须扩展伦理责任的谱系，实现广谱科技伦理。

  伦理责任的合理嵌入与配置可以很好地化解这种风险，为此，把伦理风险防范分为四部分：首先，是位于前端的科技创新者的伦理责任（R1）；其次，也是位于前端的政策伦理责任（R2）；第三，是位于创新链条中端的使用者（消费者）的伦理责任（R3）；第四，是处于创新链条末端的受众的责任（R4）。

  科技创新所引发的伦理风险应是这四者与剩余风险的总和（∑R=R1+R2+R3+R4+R)。各级伦理主体的责任大小排序如下：R1≥R2≥R3≥R4。这四段分布式伦理的规约机制分别是：

  对于设计者而言，他有多种动机（从善、中性到恶的选择），这一部分伦理风险防范既要通过创新者的自觉，还要通过具有强制性的政策手段来遏制，以及广大公众的全方位监督，从而实现所有负责任创新都是从动机处开始检视其伦理风险发生的可能性；

  对于政策制定者与监督者来说，对于任何新技术的立项都要通过各级伦理委员会的审查，通过资源的调控与政策的负面清单机制最大限度上遏制风险的发生；

  对于使用者而言，他有通过自己的使用提供真实反馈意见的伦理责任；

  对于处于科技伦理末端的社会大众而言，有广泛的监督科技创新后果的间接责任，保卫社会是每个人的责任。道德思考通常有两个维度：直觉的与批判性的。对于公众而言，不需要掌握高深的科技理论，可以凭借一般的、公认的道德直觉做出基于直觉的评判。这点很重要，生活中有无数科技伦理问题是通过公众的直觉判断得到解决的。对于人文学者而言，可以采用批判性的道德思考方式倒逼科技伦理永远走向上的道路，比如60年前卡逊出版《寂静的春天》，凭借其批判性的道德勇气吹响全球环保运动的号角。

  当下的科技创新与科技伦理的连接与嵌合仍处于松散状态，导致科技创新的风险防控机制几乎处于严重滞后状态，为了实现创新与伦理的有机融合，必须采用分布式伦理责任结构，从而使科技创新的剩余风险最小化，这种自觉努力的回报是相当可观的，既可以促成全面向善的有效科技研究，又可以规避盲目跟风科技所带来的机会与资源的损失，基于此，才能保证中国的科技自立自强之路始终处于向善、高效与有序的发展轨道上。

  （作者：李侠，系上海交通大学科学史与科学文化研究院院长、教授；吕慧云，系该校博士生）