许多学者和政策专家建议，国际科学理事会（拥有来自社会和自然科学领域的多元化成员）建立一个流程，以生成和维护风险、收益、威胁和机遇的带注释的框架/清单与快速发展的数字技术相关，包括但不限于人工智能。 该清单的目的是向所有利益相关者（包括政府、贸易谈判代表、监管机构、民间社会和行业）通报未来可能出现的情况，并框架他们如何考虑机会、收益、风险和其他问题。
加入讨论
我们鼓励您使用页面底部的表格参与对本文提出的想法及其框架的讨论。
ISC 很高兴提出这份关于评估快速发展的数字及相关技术的讨论文件。 人工智能、合成生物学和量子技术是以科学为基础的创新的典型例子，并以前所未有的速度出现。 系统地预测它们的应用及其影响可能具有挑战性。
评估生成人工智能的社会方面，例如大型语言模型，可以预见，它代表了本文的大部分内容，是当前讨论中所需的桥梁——有时是恐慌驱动的，有时是思想不够深刻的——也是必要的课程我们可以采取的行动。 ISC 相信，需要在社会对此类新技术的接受程度与其可能的监管之间建立一个分析框架，以促进多利益相关者的讨论，从而就如何优化这一快速新兴技术的社会效益做出明智和负责任的决策。
ISC 通过本讨论文件对我们社区的反应持开放态度，以便评估如何最好地继续参与并为围绕技术的辩论做出贡献。
萨尔瓦多·阿里科，首席执行官
论文贡献者：
这篇论文的起草过程中咨询了很多人，该论文由 ISC 主席 Peter Gluckman 爵士和前国防部首席科学家、现任新西兰奥克兰大学高级研究员 Hema Sridhar 起草。
我们特别感谢：
- 马丁·里斯勋爵（Lord Martin Rees），英国皇家学会前主席、剑桥大学生存风险研究中心联合创始人；
- Shivaji Sondhi 教授，牛津大学物理学教授；
- K Vijay Raghavan 教授，印度政府前首席科学顾问；
- 联合国秘书长技术特使阿曼迪普·辛格·吉尔（Amandeep Singh Gill）；
- Seán Óh Éigeartaigh 博士，剑桥大学生存风险研究中心执行主任；
- 英国皇家学会高级政策顾问 Amanda-June Brawner 和国际事务主任 Ian Wiggins；
- Jerome Duberry 博士、Marie-Laure Salles 博士，日内瓦研究生院院长；
- Chor Pharn Lee 先生，新加坡总理办公室战略未来中心；
- Barend Mons 和 Simon Hodson 博士，数据委员会 (CoDATA)；
- Yuko Harayama 教授，日本；
- Rémi Quirion 教授，INGSA 主席；
- 克莱尔·克雷格 (Claire Craig) 博士，牛津大学、政府科学办公室前瞻主管； 和
- Yoshua Bengio 教授，联合国秘书长科学顾问委员会和蒙特利尔大学教授。
ISC 的人工智能领域还发生了什么？
ISC 的智库科学未来中心计划于 2024 年初发布一份题为“为人工智能准备科学生态系统”的工作论文。该论文将包括文献综述、问题地图以及一系列简短的国家案例研究。 希望这篇论文能够推动政策制定者、行业领导者和研究人员之间的讨论，帮助他们制定路线图，利用人工智能的潜力来改善科学研究。
14 月初，ISC 科学未来中心标志着其最新的科学人工智能 (AI) 倡议的关键时刻，代表 12 个国家（主要来自亚太地区）的 XNUMX 名尊敬的代表和专家齐聚一堂，及时召开了会议。在澳大利亚科学院的支持下，马来西亚吉隆坡。 ➡️R更多
人工智能反馈
图片：iStock 上的 adamichi