超级智能与人类文明^@技术哲学系列研读会第8期

“超级智能的风险及伦理”

工作坊会议首轮通知

尊敬的同仁：

1964年古德（I.J.Good）提出的超级智能、智能爆炸范畴并未引起太多关注。1998年汉斯.莫拉维克（Han Moravec）提出超级智能对人类的威胁；2014年鲍斯彻姆的著作引发人们的关注，但这些问题流于科幻想象和诗意叙事。2024年，伊利亚.苏茨克弗在2024NeurIPS会议上提出具有推理能力超级智能会带来人类无法预测的未来；与此相反，奥特曼却提出超级智能可以加快科学发现和创新速度，增加财富和繁荣，开始成为需要正视的现实问题。

在这样的背景下，举办工作坊共同探讨超级智能带给人类的风险与伦理就具有明显的必要性。本次工作坊将于2025年5月17日举行，由复旦大学STS中心、哲学学院、科技伦理与人类未来研究院共同主办，将深入探讨超级智能的类型、风险及其伦理。工作坊内容包括主题演讲与论文报告。我们诚邀跨学科领域专家、学者参与，共同探讨超级智能的相关问题。会议不收取会务费，差旅住宿费自行承担，主办方承担会议期间的餐食。

请于2025年04月31日前提交参会论文，参会论文需与超级智能相关，包括但不限于以下选题：

1. AGI与超级智能的关系

2. 超级智能的类型

3. 超级智能的风险

4. 超级智能的伦理应对

联系人：徐志宏老师、杨庆峰老师

主办：复旦大学STS研究中心

复旦大学哲学学院

科技伦理与人类未来研究院

学术支持：

国家社科基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”

国家社科基金重大项目“现代技术治理理论问题研究”

教育部社科重大项目“数字化未来与数据伦理的哲学基础研究”

参考书目：

1.赵汀阳,人工智能的神话或悲歌 商务印书馆 2023 年

2.尼克·波斯特洛姆,超级智能：路径、危险性与我们的战略 中信出版社 ,2015 年

3.斯图尔特.罗素,人类兼容：人工智能与控制的问题,Viking, 2019年

4.Hans Moravec.Mind Children: The Future of Robot and Human Intelligence.Harvard University Press,1990

5.Yampolskiy, Roman V,Artificial superintelligence : a futuristic approach,CRC Press,2016

6.Joachim Diederich,The Psychology of Artificial Superintelligence,Springer,2021