文化新闻

《超凡觉醒》:机器一旦摆脱了人类控制,世界将会怎样?

“你知道你在哪儿吗?”“我觉得这个世界有点不对劲。”

郎园Station准点剧场,青年作家任彧用著名影视剧《西部世界》里的经典台词,来开启一场别开生面的对谈。9月17日,任彧与媒体书评人董子溪,就他的新书《超凡觉醒》开展了一场关于人工智能与仿生人的探讨,主题是:NPC意识觉醒,机器一旦摆脱了人类控制,世界将会怎样?

《超凡觉醒》:机器一旦摆脱了人类控制,世界将会怎样?

《超凡觉醒》是一部长篇科幻惊悚小说:某偏远小村突然出现了一座满是尸体的大院,警员陆晓琦在调查中发现自己完全看不到那些尸体,第二天她进一步发现,自己的世界重启了……逐梦演艺圈的帅气青年郑梓龙,从小就能看到别人看不到的东西,他在被迫卷入一起杀人事件后,被陆晓琦拉入了追查世界真相的旋涡。原来,他们都只是天才研究员杨博宇一场实验里的工具,杨博宇为了让这些逐渐具有自我意识的AI,接受自己不是真正人类的秘密,不断重启游戏世界,并将这些AI带入现实世界成为仿生人。为了自由的理想,这些仿生人产生了统治世界的野心……

近年来,随着人工智能技术的发展,机器与人类的关系问题得到了越来越多关注,反映在文学和影视领域,就是《仿生人会梦见电子羊吗》《克莱因壶》《克拉拉与太阳》等图书的热卖,《西部世界》《机械姬》《致命玩家》等影视剧的热播。它们从不同的角度,探讨了如果有一天机器和人类一样聪明,会爱人,会愤怒,甚至想要掌控世界,那人类将怎样的问题。实际上,科技在不断进步,机器在迭代,但人类对死亡的恐惧、对自由的追求、对永生的渴望一直都在。人类创造出忠诚、可控的机器,却也无时不在担心它们失控,反过来伤害人类。

《超凡觉醒》:机器一旦摆脱了人类控制,世界将会怎样?

《超凡觉醒》,任彧 著,重庆出版社

与其他科幻题材一样,《超凡觉醒》探讨了AI世界的经典话题:机器与人类、控制与反控制。书中的杨博宇创造了具有自主意识的仿生人,但给予了仿生人不可以杀死人类的经典律条;一旦仿生人无法控制,真正的人类可以一次性终结这个世界;人类在游戏世界的“审判日”这天可以不受控制地攻击NPC(非玩家角色),机器的世界将如《西部世界》里一样,悲剧无可避免。但是,《超凡觉醒》有自己独特的设定,比如,AI除了被植入的感情,会衍生出自己独特的感情;仿生人一旦出现情感或者其他认知障碍,会被送到独特的医院“修理”;仿生人社会有1.0、2.0、3.0的迭代,但是他们的自主意识越来越弱,直至最终失去了进化的动力;等等。正是由此,《超凡觉醒》展现了一个独具特色的人工智能世界,一个具有科技伦理意义的话题。人工智能“觉醒”,将给人类带来什么?机器的野心和欲望,对应人类的野心、欲望,每个人都自以为掌控了命运,但是,无论人类还是机器,都不具有无限的自由和永生。

《超凡觉醒》:机器一旦摆脱了人类控制,世界将会怎样?

对谈中,任彧就本书的内容和读者关心的问题做了回复。有读者提出,人类制造了仿生人,仿生人的思维方式难道不是人类思维的投射吗?仿生人真的会衍生出反抗意识吗?任彧认为,目前的文学作品或者影视作品对仿生人世界的描述,都是一种想象,但是,所有的文学作品最终目的都是写人,写人性,人的欲望与挣扎。《超凡觉醒》以异次元的幻想,不事雕琢地营造了一个魅惑的机器世界,但它想表达的是,对抗和控制不是人与人、与其他物种良好的相处之道,它启发我们去思考科技的边界和人类的边界,我们最终如何与自己、与他人、与世界和解。