1月5日，在南都视察的“年度对话”上，我们邀请了五位嘉宾谈论“技术时代的爱与怕”。科技跟每小我私家的关系如此深入而详细，数据的隐私，基因的权益，社会治理中宁静与自由的平衡，医疗选择中优生和权利的轻重。

在这些场景里，科技应该有界限吗？更重要的是，谁有权来决议界限？科技缔造使我们向前生长，人文思考帮我们辨认门路。以下为本次对话下半部门的文字整理。

尚有现场直播的回放，扫描二维码即可寓目。▌你在做什么：科技的伦理界限在那里？ 余盛峰 ：不管是人工智能的伦理，还是大数据的伦理、生物编辑的伦理，归结到一起都市涉及到科技伦理的问题。

之前也发生了一起与人脸识别有关的案件，浙江的一位老师以“掩护隐私”为由，将一家使用人脸识别系统的动物园告上了法院。不管是人脸识别案件，还是贺建奎的案件，从社会公共到国家司法，对于技术伦理的争论都越来越多。我们已往所谓的技术伦理，主要沿用的是18世纪建设的自由主义伦理，那这套伦理体系在今天是否依然站得住脚？接下来也请列位老师来谈一谈科学的伦理和执法的规范，人与技术应该怎样共生共处？ 刘　锋 ：关于科技伦理的探讨，我认为是存在逆境的。

因为有一些底层的问题没有解决，好比人类的进化有没有偏向。假设我们的进化没有偏向，而是以任意的偏向来进化，那我们为什么会有一个统一的伦理？所以在进化的偏向没有一个统一的明确目的的情况下，谈论如何建设统一的伦理始终会是一个悖论，很是难题。如果假设进化有统一的偏向，好比拥有更多的知识，对宇宙有更强的革新能力，在这个假设中，要到达目的，第一我们要生存下去，第二我们要生长下去。

以这两个条件为基准，我们才可能取得全人类的共识，从而建设一些基础尺度。好比在科幻影戏《2012》中，负有责任的总统会让科学家先脱离，因为他们代表着人类未来生长的希望。我们在探讨伦理的界限时，首先要先解决伦理如何制定的问题。

毫无疑问，科技是资助我们生存、生长的有利武器，但这个武器的前提也一定要确保人类的生存和生长可以连续。吴国盛 ：太阳底下没有新鲜事，现在许多有关科技伦理的问题其实是旧的伦理和新的现实的冲突。好比中国人的伦理是从农耕社会中生长起来的，并没有被科技浸染，与西方的科技伦理有很大的差异。

贺建奎案中，在事情刚发生的头两个小时，中国的官方媒体许多是表现赞扬、肯定的，认为这是中国科学生长的荣耀，但很快有科学家站出来阻挡，赞扬的稿子也就被撤了。可见一斑，中国人的伦理看法和现在科技生长的问题有时是不搭的，所以在讨论伦理问题之前，我们要先搞清楚我们的伦理是什么。我们都知道现代科学和技术来自西方，它们自带一套伦理，而这套伦理和我们的传统伦理是很是纷歧样的。固然另有一些科技生长的问题是西方的前沿领域也没有措施解决的。

好比刚刚季老师说的“电车难题”，牺牲一小我私家还是牺牲五小我私家？如果一小我私家是爱因斯坦，而另外五小我私家是马上要枪毙的囚犯呢？不知道怎么办，纵然是人工智能泛起了也没有措施解决。虽然这个问题只是一个理想实验，但它在提醒我们人类的有限，人类再怎么做也不能到达完美。而在实践的历程中，我们要做的就是不停的反省。

现在许多的高科技，包罗大数据、人工智能、生物技术等带来的伦理问题实际上是两种伦理意识的冲突。我们接受了来自西方的科学技术，却不愿意接受西方科学技术背后的伦理意识，这自己就是问题。

好比在西方的科学伦理中强调小我私家至上，个体权利不行侵犯。但在中国，大家都以为刷脸很利便，基础不思量隐私的问题，所以这不是技术的问题，而是我们的伦理意识中就缺乏对小我私家意识和小我私家权利的掩护。现在许多的伦理冲突，主要问题还是工具方之间的伦理差异，只不外是借助高科技这件事情更尖锐地凸显出来。余盛峰 ：大家似乎都以为关于技术伦理的问题，还是需要回到对人类社会古老伦理难题的思考。

想解决今天的伦理问题，还是需要回到经典，从古典思想家中寻找思想的资源。如果说我们要重新思考科技伦理的界限，那谁有权来决议界限呢？如今，一些互联网巨头公司是拥有话语权的，某种水平上它们也正在确立相关领域的技术伦理。公共部门也是如此，好比现在“天网系统”无处不在，那这些摄像头是否获得了我们的知情同意？再好比公安部门为了应对犯罪收罗我们的基因信息，是否会侵犯我们的隐私？但普通老黎民在这个历程中似乎并没有什么话语权，我们要如何应对这些问题呢？ 季卫东 ：我们可以从生长迅速的人工智能角度去看这个问题，数据对于推进人工智能迅速发展是至关重要的，那数据要如何获得呢？我在外洋使用Facebook的时候，发现它会迅速尽可能地公然化你以及你朋侪的信息并向你推送周边的人，这个功效的设计和微信很纷歧样，我就琢磨是为什么？现在世界上只有两个国家真正称得上是数据大国，一个是美国，一个是中国。

美国的宪法体制决议了国家对小我私家尊严和隐私掩护的重视，所以它的数据和隐私在虚拟世界中是支解的、碎片化的，因此想要获取更多的数据就需要借助技术手段打破中间的壁垒，所以会泛起这种尽可能地搜集数据、使用数据的功效设计。而在中国，民众的隐私看法很是单薄，收罗数据相对容易，出于利便，大家也很乐意提供自己的数据。

所以从生长人工智能的角度来看，中国的这种体制是更有利的，因为它使得大数据搜集很容易，为人工智能的生长提供了富足的养料。但另一方面，当把大家的隐私都袒露出来时，社会变得更透明，也可能变得更容易受伤害。但之前我们提到当人工智能细密度越高，就越不行解释，也就越容易黑箱化。在这里，我们看到一对很是尖锐的矛盾：社会是透明化的，而。

本文来源：亚博yabo-www.zzuhao.com