学界关于"超级AI"的论争及其实现的可能路径

摘要：

霍金关于人工智能取代人类的观点,引发了人们关于"超级AI(超级人工智能)"的广泛争论,那么"超级AI"是否会实现、其潜在的实现路径包括哪些?针对这些问题,该文在分析历史上关于超级AI的争论的基础上,总结了学界等关于"超级AI"如何实现的各种路径.认为当前我们不应过度夸大AI的能力,但要敬畏AI的未来发展潜力,因为无论是从技术态层面还是社会态层面上讲,AI的未来发展陷入"动车困境",超级AI并非完全是一种科学幻想.

关键词：超级AI、AI风险、递归性自我改良、存在性风险、动车困境

分类号：C932.4(管理学)

资助基金：中国科学院自然科学史研究所重点培育方向项目"科技的社会风险",以及中国科学院青年研教项目"机器人ELSI问题研究"项目部分成果

在线出版日期：2017-09-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：22-31