科学家和研究人员越来越重视科幻小说对预测未来情景的贡献。 作为探索科学和科学系统变革引领我们的方向的使命的一部分， 未来科学中心 与六位领先的科幻小说作家坐下来，收集他们对科学如何应对我们在未来几十年将面临的许多社会挑战的看法。 该播客与以下机构合作： 自然.
在我们的第五集中，陈秋帆与我们一起讨论科学中作为人类努力的代理和社会责任。 对于陈来说，这尤其适用于人工智能。 在播客中，他向我们介绍了人工智能对科学研究未来的影响，以及如何对人工智能的发展进行更多监管，从而使其更加道德。
通过您最喜欢的平台订阅和收听
陈秋帆
陈秋帆是一位屡获殊荣的中国推理小说作家，着有《 废潮 和共同作者 AI 2041：我们未来的十大愿景。 他也是耶鲁大学研究学者、美国伯格鲁恩研究所研究员。 我们的主要讨论围绕人工智能，即我们如何利用这项技术的力量，同时避免它带来的危险。
成绩单
保罗·什里瓦斯塔瓦 (00:04)：
大家好，我是来自宾夕法尼亚州立大学的 Paul Shrivastava。 而且，在这个播客系列中，我正在与当今一些领先的科幻小说作家交谈。 我想听听他们对科学的未来以及科学必须如何转变才能应对我们未来几年面临的挑战的看法。
陈秋帆 (00:24):
未来的人工智能，也许可以用它来帮助我们照镜子，让我们成为更好的人。
保罗·什里瓦斯塔瓦 (00:33)：
今天，我采访的是中国获奖作家陈秋帆。我读过他的小说， 废潮 很多年前，他对电子垃圾困境的描述给我留下了深刻的印象。他最近与人合着的书 AI 2041：我们未来的 10 个愿景，将富有想象力的故事与科学的预测生动地结合在一起。我们谈论了很多关于人工智能以及如何利用这项令人难以置信的技术的力量，同时避免它带来的一些危险。
非常感谢您加入我们，斯坦。欢迎。令人惊讶的是，您所掌握的科学主题范围确实非常引人注目。您是如何对这些科学主题感兴趣的？
陈秋帆 (01:28):
所以，作为一个科幻迷，我不得不承认我是从这些开始的 《星球大战》, 星际迷航, 侏罗纪公园、经典科幻电影和书籍、当年的动画。每一次都给了我很多新的灵感和想法。所以，我总是对所有这些迹象、对未来、外太空甚至数百万年前的物种的想象完全着迷。那么，我们如何让它们复活。
保罗·什里瓦斯塔瓦 (02:02)：
因此，科学已经持续了很长一段时间。 您对科学作为人类事业的总体看法是什么？
陈秋帆 (02:13):
对我来说，这绝对是一个巨大的成就。 当然，它使我们作为人类生活得更好。 而且，当我们回顾历史时，我不得不承认存在很多挑战，因为在我看来，该机构并不完全掌握在人类手中。 有时候我觉得也许科学技术就像某种物种、某种生物一样，有它自己的目的。 它有自己的诞生生命周期。 它希望与人类共同存在并共同进化。 所以，我们就像宿主，他们就像病毒。 我们可以这样看，也可以反过来看。 所以我总觉得科学和人类之间的纠葛真的很深。 所以，有时候我觉得科技的发展改变了我们很多，但我们永远不知道前面的方向是什么。
保罗·什里瓦斯塔瓦 (03:24)：
好吧，让我们把它说得更具体一些，关注现在最重要的事情，那就是人工智能。 如何确保人工智能的发展融入社会正义和伦理道德考量？
陈秋帆 (03:40):
问题是我们没有充分投入建立这种从道德上防止负面事件发生的监管和框架。 我认为我们在人工智能方面需要更多的多样性，尤其是在大型语言模型方面，因为我们正在谈论特定的对齐。 因此，即使在不同国家、文化、语言的人类中，我们也没有这种共同的一致性作为单一标准。 那么，我们如何才能教导机器、人工智能与人类价值体系或标准保持一致，成为一个不可分割的整体呢？ 所以，我认为这是非常初步的。 但是，我认为关键的投入不仅应该来自科技公司、工程师、所有从事该行业的人，还应该来自跨学科世界，例如人类学、心理学、社会学。 我们需要更多元的人文视角，因为人工智能应该是为人民而生，为人民服务。 但是，我觉得现在的人为因素在循环中非常缺失。
保罗·什里瓦斯塔瓦 (05:11)：
那么在您看来，这些技术进步将如何改变未来科学研究的方式？
陈秋帆 (05:19):
在我看来，这是一个全新的范式转变，科学家可以使用人工智能来寻找新的模式，预测蛋白质结构并找到大量数据中的相关性。我认为这将是革命性的事情。但这个过程中也存在很多担忧。例如，我们现在可以预测数以百万计的蛋白质结构，但问题是，所有这些蛋白质结构的预测有多少比例是有效的，并且对真正的疾病和真实的人体有效？另一件事是，所有这些革命性领域都非常注重积累大量数据集。这些数据是从什么样的团体收集的？什么样的人口？他们是否在通知的情况下共享这些数据，所有的东西都已被使用？我们是否在不同的科学家或研究人员群体之间共享数据？所以我觉得这始终是我们如何建立这样一个制衡体系，把风险和挑战降到最低，同时真正满足市场的需求，为人民谋取最大的利益。
保罗·什里瓦斯塔瓦 (06:56)：
是的，我认为建立制衡体系是人工智能发展的重要组成部分。但公共科学叙述中很少提及人工智能本身对环境的影响。
陈秋帆 (07:13):
这是一个非常矛盾的事情，因为人工智能，它需要如此多的力量。并且需要实时计算。它需要从环境中提取大量的物质。但与此同时，我们可以用它来从卫星上探测野火。我们可以用它来保护生物多样性。我们可以用它来寻找新的解决方案，比如电池的储能、智能电网，甚至未来的核聚变技术。所以如果你以正确的方式使用它，它绝对可以保护我们并对抗气候变化。
保罗·什里瓦斯塔瓦 (08:03)：
您认为在未来的某个时刻，人工智能会比人类理解更多的东西吗？
陈秋帆 (08:13):
所以，我一直在考虑某种模型，比如超越人类的大型模型。 例如，数据来自动物、植物、真菌，甚至来自微观和整个环境。 所以，我们谈论的是整个地球模型。 我们需要在世界各地部署这种传感器层。 所以，也许我们可以使用智能灰尘，这是莱姆的小说《无敌》中提到的。 所以，你说的是所有这些小尘埃群，基本上它是一种集体智慧。 而且，人类可以从这种大型模型中学到很多东西，因为它帮助我们感知超越我们的感官系统和人类的东西。 这样我们就可以减少以人类为中心的程度，而对其他物种更加富有同情心。 而且，也许这将是应对气候变化的解决方案，因为我们可以感受到其他物种的感受，所有这些痛苦、所有这些苦难、所有这些牺牲可能是有形和真实的。
保罗·什里瓦斯塔瓦 (09:36)：
精彩的。 以人类的模型来想象人工智能，实际上是一种低等的思考人工的方式……更高级的方式，你所说的全球模型，才是发展的方式。
陈秋帆 (09:54):
是的。所以，这让我想起了佛教，因为在佛教中，所有有情物种都是尽可能平等的，并且不存在人类应该高于其他物种的说法。所以，我一直在思考我们需要找到一种方法将佛教和道教的所有哲学和价值观嵌入到机器中。
保罗·什里瓦斯塔瓦 (10:27)：
所以，我想知道，你了解人工智能的技术要素吗？ 佛教、道教可以训练人工智能吗？ 因为所有的书籍和价值观都已经编入法典。 如果你愿意的话，是否有可能找到对它们进行训练并创建一个合成世界宗教的人工智能？
陈秋帆 (10:50):
它绝对可以，而且它可以比世界上任何牧师、僧侣、大师做得更好，因为它知识渊博。但是，作为道教的修行者，有一些东西超出了对这一切的综合理解，称之为宗教或精神体验，是身体中的东西。所以，你必须做所有这些体力作业。所以，我认为这是AI目前还缺乏的东西。例如，它没有身体，没有复杂的感觉系统，没有自我意识。而且，我认为所有这些部分都是人之所以为人的原因。未来的人工智能，也许可以用它来帮助我们照镜子，让我们成为更好的人。
保罗·什里瓦斯塔瓦 (11:49)：
在你的想象中，AI可以有灵魂吗？
陈秋帆 (11:54):
意识的出现目前基本上是科学上的一个谜。因此，在我看来，大型语言模型的涌现能力与经典或量子物理复杂系统中的所有这些涌现现象之间肯定存在某种联系。所以我认为从数学上来说，也许有一天我们可以证明意识的存在。但这不是零或一种状态，而是连续的状态范围。所以这意味着甚至一块岩石，一棵树，甚至河流或山脉也可能具有某种程度的意识，但我们只是没有意识到它，因为我们是如此以人类为中心。但这全都与计算有关。这都是关于时空压缩的。这都是关于信息保存的。所以这都是关于熵的减少。所以这不是一个认识论问题，但我认为这是一个本体论问题。所以这是关于存在的。
保罗·什里瓦斯塔瓦 (13:14)：
感谢您收听国际科学理事会科学未来中心与加州大学圣地亚哥分校阿瑟·C·克拉克人类想象力中心合作制作的播客。访问 futures.council.science 了解科学未来中心的更多工作。它专注于科学研究系统的新兴趋势，并提供选项和工具来做出更明智的决策。
宾夕法尼亚州立大学管理与组织学教授 Paul Shrivastava 主持了该播客系列。 他专门从事可持续发展目标的实施。 该播客也是与加州大学圣地亚哥分校的阿瑟·C·克拉克人类想象力中心合作完成的。
该项目由 马修·丹尼斯 并由 刘冬， 来自 未来科学中心，ISC的智囊团。
免责声明
本文中提供的信息、意见和建议均来自个人贡献者，并不一定反映国际科学理事会的价值观和信仰。
