发展科技伦理：从原则到行动

    【青年论坛】

    中央全面深化改革委员会第九次会议不久前审议通过了《国家科技伦理委员会组建方案》（以下简称《方案》）。会议指出，科技伦理是科技活动必须遵守的价值准则。组建国家科技伦理委员会，目的就是加强统筹规范和指导协调，推动构建覆盖全面、导向明确、规范有序、协调一致的科技伦理治理体系。要抓紧完善制度规范，健全治理机制，强化伦理监管，细化相关法律法规和伦理审查规则，规范各类科学研究活动。根据会议精神，发展科技伦理，不仅要明确科技活动必须遵守的价值准则，更要把这些准则落实在行动中，通过各种制度、机制、监管和审查，构建切实有效的“科技伦理治理体系”。

规范科技活动的伦理原则

    发展科技伦理，就是把价值、原则、规范带入科技活动，从而在各个环节、各个层面提升科技活动的伦理质量，使科学技术更好地造福人类社会。要做到这一点，需要在以下两个方面着力：一方面，不断消解科技活动可能带来的负面后果。特别是对那些技术发展不成熟、应用后果不明朗的前沿新兴科技，要通过建立评估体系和预警机制进行风险管控。不能仅仅通过经济指标来衡量科技活动的社会效益，尤其警惕“资本逻辑”对科技活动的控制，坚决制止把人类社会当作技术实验场景的极端做法。另一方面，再次明确科技活动的属人本性。要做到这一点，就不能偏执于“科技中立”的价值观念，认为科技虽然也是人的活动，但终究隐含着超越人类的独立发展主题。可问题是，如果我们把科技理解为自然向人类的打开方式，那么很显然，这些方式不仅可以有选择，而且应当是属人的选择。

    尽管科技伦理问题在当代的重要性已不言而喻，但在现实生活中，普通民众对这个问题还很陌生，远没有形成对应的概念。据此，不少批评者深表忧虑。在他们看来，高科技多掌握在技术专家、商业领袖、政府管理者等社会精英手中。如果这些人在从事科技活动的时候不考虑伦理问题，那么普通民众就更难意识到专业的科技伦理问题。科技不伦理所带来的恶性后果将不可避免地使民众陷入恐慌。不过，值得庆幸的是，在那些频繁接触和运用前沿新兴科技的人们中间，开始涌现出越来越多关注科技伦理的人。他们不仅研究科技伦理问题，也热衷于科技伦理实践，并身体力行地推动科技伦理的发展。这些先行者的研究成果和实践经验大致可以被归结为如下一些伦理原则：

    后果应风控。我们常说科学技术是一把双刃剑。这意味着，科技力量越是强大，它可能带来的风险也就越大。可想而知，如果我们对某项科学研究和技术应用所产生的后果不得而知，且没有相应的补救措施消解不良后果，那么，我们就会使自己陷入进退两难、无所适从的境地。2018年的基因编辑婴儿事件就是一例。由于存在脱靶效应，新生儿的基因异于常人。因此，这台基因编辑手术对这两个孩子的生理、心理以及未来生活所造成的影响不仅无法预测，而且后果不可逆。所以，对于那些后果未知且可能造成不可逆结果的前沿新兴科技应用，应当建立风险管控机制，必要时可明令禁止。

    信息应公开。这条准则对那些经常和数据打交道的企业来说尤其重要。在智能大数据时代，为了开发更加“懂得”消费者的产品，越来越多的企业开始以数据管理的模式建立用户系统。但是，企业在储存、分析和使用消费者私人数据的同时，也存在着大量违规处理数据和利用数据操控用户的隐蔽做法。2018年，美国著名的社交网络企业脸书（Facebook）就因把未经用户授权的私人数据提供给第三方使用而受到美国司法部门的立案调查。因此，企业必须确保消费者在使用产品或接受服务时知道自己需要同意什么。企业应当向公众发布更多的产品信息和技术信息，让更多的消费者通过更加透明的方式参与到企业的产品设计决策中去。

    知识可解释。在日常生活中，普通民众是通过各种商品和服务间接接触各类科技的。但在他们享用科技产品带来的生活便利的同时，往往对产品背后的技术条件及其工作方式不明就里，因而也就无法对产品使用后果做出自己的判断。如今，当我们用网络进行购物或社交时，得到的绝大部分信息都是被算法推荐的。通过相应的算法设计，各种购物和社交软件甚至能左右我们去哪里、遇见谁、买什么，使我们在不知不觉之中被算法牵着鼻子走。因此，我们需要企业提供易于理解并说明清晰的产品知识和技术信息。只要有足够透明且解释清晰的知识，普通民众在科技伦理问题上自己就能作出决定。

    行为可问责。科技活动可能造成的后果需要被纳入一个清晰的问责体系之中。如果这个问责体系不能建立，我们就既不能对科技活动进行反向的伦理规制，也无法妥善处理科技活动产生的各种后果。2018年3月，在美国一辆无人驾驶汽车肇事伤人之后，至少有四家责任主体陷入了诉讼纠纷。究竟如何认定传感器制造商、驾驶软件设计商、算法开发商和汽车所有人之间的责任关系？对这一问题的讨论甚至登上了世界权威的学术期刊之一《科学》。实际上，随着大量新兴科技通过产品不断进入社会，类似这样的问责困境今后还会频频出现。如果事先不能建立问责体系，我们实际上是无法善后的。

    减少不平等。在理想条件下，没有人会反对科技的作用之一在于平等地造福社会上更多的人。但在现实中，这个理想常常受到各种挑战。我们是否应当设计更加公平的制度，使更多的科技资源流向最需要的人？但由谁来承担分配这些科技资源的费用呢？新一轮人工智能的发展可能会造成大面积的结构性失业。我们需要考虑那些失业人员的工作问题吗？还是有条件地限制人工智能的应用场景？我们可以发展功能型基因编辑技术吗？但那些没有条件购买这项技术产品的人会在出生时就“输在起跑线上”，造成人与人之间“先天的”不平等。显然，如果没有相应的价值准则回应这些问题，任由科技应用野蛮生长，最终必然导致更大范围、更深程度上的社会不平等。

建立可行的“科技伦理治理体系”

    后果应风控、信息应公开、知识可解释、行为可问责、减少不平等，这些都是科技活动应当遵守的价值准则，或称科技伦理原则。当然，科技伦理原则显然不止这些。不仅如此，在特殊的科技领域，这些原则还各有其特定内涵并需要根据价值重要性进行排序。更为关键的是，只有当这些原则转化为具体的科技伦理规范，才可能切实有效地发挥作用。这需要科学家、发明家、伦理学家、企业家、监管机构、第三方组织开展专项的跨学科研究，合作建立科技伦理治理体系，同时把普通公众纳入更加广泛的科技伦理决策系统。在这个面向行动的过程中，需要认真对待以下三方面问题：

    协同经济伦理发展科技伦理。在现代社会，科技造福人类的方式在很大程度上是由经济活动来安排的。因此，建立科技伦理治理体系就需要统筹考虑经济活动及其伦理问题。实际上，许多当代科技伦理问题，也是经济伦理问题。有些科技伦理问题，其实从根本上说反倒是经济伦理问题。我们实际上需要开发的是一种统筹“科技—经济—伦理”的治理体系。这种治理体系需要融合三个领域的价值结构，并根据侧重不同的层次和环节吸取各自的分析框架。例如在后果分析和责任评价这两个维度上，现代经济伦理学理论中的利益相关者理论和企业社会责任理论，都是比较成熟的、可以用来讨论科技伦理问题的分析框架。

    定向开发专业的科技伦理治理技术。面对更为实证化、标准化、技术化的科技活动，伦理学需要把抽象的价值、原则、论证推理方式转化为更加可度量、可评价、可操作的伦理治理技术。这项技术的本质是在伦理与科技之间建立一种有弹性的平衡机制，就像一根可松紧的橡皮筋。一方面，对于那些发展比较成熟、应用前景及其后果比较明朗的科学技术，可逐级放宽伦理规制。相反，对于那些应用条件不成熟、应用后果未知的科学技术，应当逐级收紧伦理规制。这种分级管理的方式，需要伦理学更加深入地研究科技活动的各个环节，为各层级上的科技决策提供伦理参照系。不仅如此，这项技术还可转化为科技伦理发展指数，引导资本投向更值得信赖的科技应用。

    把科技伦理研究和职业伦理培训结合起来。职业伦理培训必然是科技伦理治理体系中极端重要的一个环节。要发展科技伦理，首先需要解决人的观念问题。价值观念的养成有两个途径：一个源于道德知识，一个源于道德经验。在前者，各种价值准则的证成方式及其推理过程可以教会人们如何运用概念分析和判断伦理问题。在后者，各种科技伦理实践活动可以培养人的伦理敏感性。所谓伦理敏感性就是能迅速地识别科技活动中可能存在的伦理问题。要做好这两点“人的工作”，最好的方式就是开展专门的职业伦理培训。与此同时，要把职业伦理培训和各个层级、各个环节上的科技活动结合起来，有机地嵌入到伦理治理体系中，真正做到有的放矢、行之有效。

    《方案》是在全面深化改革的大背景下提出的，落脚点是建立科技伦理治理体系。它从这个角度创造性地发展了“依法治国和以德治国相结合”的新思路和新策略，为我国新时代公民道德建设提供了新的方向和新的路径。

    （作者：张霄，系中国人民大学伦理学与道德建设研究中心副主任、副教授）