——读尼古拉斯·卡尔《玻璃笼子——自动化和我们的未来》
我们的双手有望离开汽车方向盘,因为无人汽车已经出现;我们不用再为找不到路犯愁,辨别方向的事儿GPS就能办到;遇到难题,搜索引擎能帮你解决可以不动用大脑;只要有一台电脑,坐在家里就能创业、就业……互联网时代,人类的运动简化为启动应用程序,向主机求得答案,听从算法的智慧。在这个智能设备无所不在的年代,自动化让生活更为便捷,同时也偷走了我们的部分生活,限制了我们的视野,时时暴露在监控之下,隐私被剥夺,不少人甚至退化到不会思考,对人类的未来已然懵懂。正如“这个时代最清醒的思考者之一”尼古拉斯·卡尔在其新著《玻璃笼子——自动化和我们的未来》中所言的,“各种各样的智能设备和计算机包围着我们,使我们仿佛生活在玻璃笼子里一样,我们的体验变得不再那么丰富,而我们的智慧正在受到侵蚀。”
卡尔延续他在之前的书《浅薄》中的主张。在他看来,自动化也好,媒体也好,计算机也好,互联网也好,都是工具,但是这些工具从不是毫无影响的中立之物,它们反映着其诞生初期的设计者的意愿、使用者的关注以及整个社会的利益,并在成熟之后积累了许多惯性,继续沿着已有路径发展,从而影响人们工作和思考的方式——对于此,我们即便是个人,也不可能摆脱。
“人是万物的尺度。”古希腊哲学家普罗泰戈拉在《论真理》中说,人类向来自诩为万物之灵,认为自己是世界的主宰。但是,这种自我意识正在消解。在自动化时代,“很多人类从事的工作已经被各种人工智能设备所复制和替代。比如航空员在驾驶的时候更多依靠科技,这让我们感到今天的飞机不是驾驶员在操纵,而是计算机软件在控制”。卡尔认为,智能机器不但会取代人类的一些行为,还可能毁灭掉人类,乃至统治地球或操控整个宇宙,而“公众没有完全认识到这些风险的严重性”。2003年,里斯勋爵出版的《我们最后的世纪》一书里警告说:“人类的破坏性及表现出来的各种自残、自毁行为,最终可能导致2100年人类彻底灭绝。”尽管里斯勋爵的话有点儿危言耸听,但在卡尔看来,“超级智能机器”,或“人工综合智能”,确实可能危及人类存亡。一如剑桥大学哲学系著名教授休·普雷斯所言:“超级人工智能有可能是‘潘多拉的盒子’,一旦盒盖打开了,灾难也许会飞洒人世。我们对此务必重视,错过这个关键时刻,就可能陷入灭顶之灾。”
尽管“他们(人类)把我们造得太聪明,太完美,而到了最后,剩下的只会是我们”,只是电影《2001太空漫游》里的一句台词。但是,正如尼古拉斯·卡尔在《玻璃笼子》里所言,“在我们的工作和生活中,我们都在某种玻璃的框子里边,也就是说大家都离不开某种屏幕,每个人在讲着话都会不断地看手机,被屏幕围绕和控制,在未来几年里,我们看到好像不借助某一种计算机或者屏幕的话,似乎就不太能做一些具体的事情,我说这种无形的影响我把它叫做‘玻璃笼子’。”而且,种种迹象证实,尼古拉斯·卡尔对人类过度的依赖智能机器的担忧正从忧虑中成为现实。如果我们依然继续地过度依赖智能设备,一旦人类所独有的本能(或机能)丧失,人的个体及整个社会的发展演化都必将面临着严峻的考验。
“对于飞行员来说,在这种玻璃笼子里切断了应有的知觉、感知和敏锐的反馈;在我们的生活里会切断人和人之间的互动和世界之间的互动,它会使我们的感知、思考和思想受到重要的封锁。”当人类仍沉浸在技术带来的便利和高效的时候,尼古拉斯·卡尔看到的却是技术背后隐藏的“手术刀”正改变着人的大脑,从而影响人的认知和行为。当然,卡尔的《玻璃笼子》并不是简单排斥自动化、计算机或者其他的智能机器给生活带来的便利和好处。他所强调的是,一切技术都不能或不该“绑架”人类,人类也应抗拒被自动化、计算机及其他先进的科技束缚住手脚和思维。“我想今天人类面临这样一个重要的抉择,就是在计算机或者自动化越来越普及越来越被大力推进的时刻,在人和机器之间,到底谁控制谁呢?我的观点是要让技术为人类服务。”正如尼古拉斯·卡尔所言,人类自身的很多高级能力既是不可替代的,也不应该由智能机器来完成。
“人类发展的过程,更多是对从事的工作中所掌握的技能来实现的。如果软件本身的设计不够好的话,那它会把人类所达到的目标引向歧途。随着技能的提高,不断去接受更新的挑战,然后得到新的结果。大量自动化的过度依赖,也会影响人类自身的发展和学习能力。”尼古拉斯·卡尔思考问题的角度独特,观点犀利甚至略为偏激。事实上,对每一个人或整个社会来说,社会的发展、人类的进步确实应该靠我们自己来滋养,概念思维的能力、创意思维的能力以及批判性思维的能力,都要通过人类自身的体验和操作来完成(或实现)。所以,《玻璃笼子》,对还在一边走路一边刷微博、聊微信、查收邮件、看视频、玩游戏的“低头族”而言,或是一种提醒,即便没有醍醐灌顶的功效,至少也会引发思考。
在互联网时代,卡尔屡屡提出与众不同的观点。《玻璃笼子》旨在阐明一个特立独行的评判:自动化和智能化代替人脑的部分功能,会否害了人类?不能不说,卡尔的提问是有足够价值的。