数字反噬、通能塔诅咒与全押归零的人工智能赌局 ——智能革命重大风险及其治理问题的若干思考

摘要：

人们通常将智能革命与以往多次科技革命并列,但这不能反映智能革命的特质和影响.以往的科技革命都是专能(专门能力)革命,智能革命是首次发生的通能革命,引发社会前所未有的巨变.人工智能风险与伦理治理收效甚微,其首要原因是公众和学术界深陷十大认识误区.深度信息化、数字化导致人类边际收益递减,AI机器人因不受生理限制而收益越来越大,远超人类的收益,直到反客为主,危害人类,可谓"数字反噬".人工智能造成"短期失业、长期增业"论不能成立,通能革命势必引发大规模失业,可谓"通能塔诅咒"."奇点到来还很遥远"这一判断是错误的,人工智能"还没有超过人类智能""还没有自主意识",并不等同于AI没有威胁人类安全.只要AI或利用AI可造成毁灭性灾难,即可认为"奇点"来临,至少广义的"奇点"——"畸点"已临.AI for Science导致的最大风险是辅助或自主生产"致毁知识",对它而言,科技伦理形同虚设.初探科技风险剧增理论,指出人工智能等高科技带来的好处越来越多,却终将毁于一旦,可谓"全押归零的人工智能赌局".因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变.

关键词：通能革命、人工辅能、人工智能B模式、科技风险剧增理论、人类安全、科技重大风险、畸点已临、致毁知识

所属期刊栏目：24

分类号：TP391(计算技术、计算机技术)

在线出版日期：2023-01-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：1-13