《玻璃笼子：自动化时代和我们的未来》，(美)尼古拉斯·卡尔著，杨柳译，中信出版社2015年11月版

　　在尼古拉斯·卡尔看来，“人类的自觉意识”决定了人类与人工智能之间的区别，并成为人类不会被人工智能取代的制胜利器。但《玻璃笼子》一书探讨的是：在智能手机、智能手表、平板电脑、电子地图、G P S等人工智能大力普及的今天，“人类的自觉意识”能否不受干扰地保持自身的特性？

　　今年11月，《哈佛商业评论》前执行主编尼古拉斯·卡尔携新作《玻璃笼子》出席在北京举行的新书发布会。讨论环节中，主持人问卡尔和两位中国嘉宾：“未来我们的思考能力是否会被智能设备替代”，三位嘉宾除有一位亮出“是10%，不是90%”，其余两位都斩钉截铁地说“N o”(否)，其中就有尼古拉斯·卡尔。

　　这让我想起许多年以前，老师布置作文写“‘深蓝’打败象棋大师卡斯帕罗夫，你觉得今后人脑会被电脑取代吗”，我们私下嘀咕人脑的前景大概不会很妙，但公开的作业上却写电脑也是由人脑创造的，因而“人定胜×”这样的话来。在面对自己和面对公众时，我们通常会有不一样的表现，尤其是面对发布会这种半Party性质的活动。

　　其实咂摸一下卡尔就这个“N o”所作的解释，我们还是能发现他是作了重大的保留的：“我想其实是显而易见的，没有人能够对未来作出百分之百的预测，我们现在所面临的一个问题是，在人工智能和人类从事的工作之间，到底鸿沟有多大，他们之间被替代的程度有多深。我个人认为在人类发展过程中，人类的自觉意识是非常重要的，而且是很难被技术完全替代的。在多大程度上，机器可以有自己的意识，可以有自省的能力，它才能够完全替代人类意识？所以我的意见是，人类的能力不会被机器或者自动化完全替代，这就是为什么我选N o。”

　　在卡尔看来，正是“人类的自觉意识”决定了人类与人工智能之间的区别，并成为人类不会被人工智能取代的制胜利器。但问题在于，在智能手机、智能手表、平板电脑、电子地图、G PS等人工智能大力普及的今天，“人类的自觉意识”能否不受干扰地保持自身的特性？整本《玻璃笼子》探讨的就是这个问题。

　　一

　　2009年，美国大陆连线和法国航空公司的两架飞机先后坠毁。事后查明，这两架飞机的坠毁是由于自动驾驶模式出错、转接为人工操作模式时，飞行员“完全丧失了对情况的认知控制”并作出错误操作所致。而这种常规错误在手动驾驶模式年代是很容易被飞行员克服和避免的。

　　以A 320飞机为例，卡尔向我们介绍了自动模式区别于传统机型的技术优势及其局限：自动驾驶仪用于保证飞机按航线平稳飞行；自动油门可以控制发动机功率；飞行管理系统从G PS接收器和其他传感器那里搜集定位数据，通过这些信息设置或调整飞行线路；防碰撞系统扫描附近空域的飞机；电子飞行包存储图表和其他文件的数字拷贝供飞行员使用，等等。

　　本来，这些任务在传统机型上是由报务员、导航员、飞行工程师等多人协调完成的，现在则全部反映在驾驶室内的彩色纯平大屏幕上，飞行员通过键盘、滚轮等输入设备输入数字和相关信息即可搞定。形象一点说，计算机自动化把驾驶舱变成了“一个大的飞行着的计算机接口”，飞行员则成了计算机操作员。

　　因而，一旦自动模式或计算机系统出现bug，而飞行员未能识别，或识别错误，或突发程序没有计算到的意外，需要手动操作飞机时，飞行员会觉得“突然充当了一个陌生角色”。其原因就在于他们平时过度依赖计算机，导致专业技能退化、思维迟钝、注意力也随之下降。据2010年美国联邦航空管理局公布的数据显示，过去10年间有2/3的坠机事故由飞行员操作失误引起，2013年公布的报告则显示，有一半以上事故同自动化有关。

　　卡尔进一步分析了自动化状态下飞机驾驶员的认知困境。在非自动模式下，“飞行员需要准确操纵工具和设备，同时在脑中快速地做出计算、预测和评估。在经历复杂的思维过程并进行手动操作时，飞行员需要保持警惕，留意周边发生的事情，并能够分辨重要信号和非重要信号。他要时刻集中注意力，保证视野开阔。要掌握这些技能，只能通过严格的训练。”久而久之，“随着飞行员经验的积累，大脑会形成所谓的心智模式，这是一种有专门用途的神经元集合。在心智模式下，飞行员能够识别周围的图像，能够理解并靠直觉对刺激做出反应，而不必受困于认知分析。最终，思维和飞行实现无缝连接，飞行成为第二本能。”

　　而计算机引入之后，尽管软件程序减少了飞行员的工作量，使他们更多地关注飞行过程中思维认知层面上的问题，但飞行员的心理认知能力会退化，当需要手动操作时，他们会对某些关键步骤感到陌生而无法正确操作。

　　二

　　如果说航空事故只是极端特例，不具备普遍意义的话，那么，卡尔对医疗、建筑、运输、金融、会计、法律等行业中计算机角色的评价，会让我们更清晰地看到计算机在处理、分析甚至决策上的优势地位，人类则被从各种管理岗位上驱逐出去。不过，相较就业，卡尔更重视的是过度依赖计算机对人类认知，亦即人之所以不能被计算机取代的终极法宝———“人类的自觉意识”———所造成的影响。

　　以导航为例，早期的导航技术(如航海图、地球仪、测深锤、象限仪、指南针、望远镜等)，其设计初衷是让人们对周围的世界有更好的认识，如增强方向感，对危险做出预警，突出周围的路标或其他方向标识，等等。G PS可以完成上述所有工作，但其设计初衷并不是让人类更好地了解周围的情况，而是免去了了解周围情况的需要。“我们控制导航系统，仅局限于遵照路线指示行动。无论是仪表盘、智能手机还是G P S专用接收器，它们上面搭载的系统都最终把我们同环境隔离开来。”

　　因纽特人基于对风向、雪堆形状、动物行为、星星、潮汐和洋流的深入了解，成为世界上最好的向导。但配备了G P S后，他们反而无法识别隐藏的悬崖和冰窟窿，因为G PS并不能区分这些只有依靠长期实践和观察才能辨明的危险。与之类似的是，人们对G PS的盲信使他们在驾驶汽车时无视路况、标识和警察设置的警戒物，直到发现此路不通，或者发生交通事故。

　　卡尔据此提出了人类认知“生成效应”的概念。“生成效应”涉及人类深层的认知和记忆过程。“我们努力进行某项工作时，会集中注意力和精力，大脑就会奖励我们，增强我们的理解力。我们的记忆力越好，学的东西也就越多。最后，我们具备了熟练、专业、具有目的性的专业技能。”而软件则像一块幕布那样阻隔了我们与周围环境的互动，降低了我们参与的强度，特别是当软件把我们推向更为被动的观察者和监控者角色时，就会危及我们“生成效应”的养成，导致我们在各种问题上愈来愈依赖计算机，并最终拱手交出决策权。

　　卡尔对“生成效应”的解说带出了一个至关重要的问题，那就是人的认知需身体与思维的共同合作，两者缺一不可。这就对笛卡尔等哲学家在认知问题上把身体与思维对立起来的二元论，提出了挑战。这种二元论又由于现代科学对人类大脑的分区研究而得到了强化，该研究认为“当你思考身体和身体行为时，你调用了右半脑外表面的前额区和顶区，但当你对思维进行研究时，调用的是大脑中部的前额区和顶区”。

　　卡尔认为二元论具有误导性，因为大脑和身体的构成物质相同，它们的工作原理也相互交织在一起，其关联程度远远超出我们的想象。“‘思考’的生物过程不仅源自大脑的神经计算，也来自整个身体的运动行为和感官知觉。”卡尔认同哲学家约翰·杜威的观点：认知的过程不同于不切实际的空想，“通常需要借助双手、双脚以及各类设备和装置，(这些)同我们大脑内部的变化一样重要。”但计算机屏幕却让我们脱离了肉体的躯壳，并低估了同世界相融的重要性。

　　卡尔对二元论的批判，还涉及对哲学家怀特海通过“自动化”来拓展人类认知潜力的观点的质疑。怀特海说人类大脑容量有限，如果将其日常思考“卸下”交由辅助技术去做，会使人类有更多的精力从事更深层次的推理和猜想。“人们无须过多考虑就可以完成的重要操作越来越多，随着这些操作数量的增长，文明也在进步。”卡尔则认为只有经实践训练积累大量“隐性知识”，并将其内化为大脑和肌肉本身的“自动化”机能，才能让人类有余裕去思考和处理更艰深、更细微的问题。否则，就好比一个缺乏数学基础的人使用再多计算器也不可能理解数学及其背后的意义，我们一味依靠自动化软件来处理和解决问题、而不将其内化为我们的个体经验和记忆，我们的学习能力和发展潜力也同样不可能获得提升，而后者正是我们探索和改造世界的最重要的工具。

　　三

　　卡尔提出了若干培养“生成效应”、保障“自觉意识”、实现“以人为本”的建议，比如编写软件时将关键功能的控制权交给人类而不是程序，限制自动化范围、确保人类能够分配到具有挑战性的任务，决策类软件只提供信息而不提供具体的建议，等等。但我觉得他在说这些话时底气不是很足，这并不奇怪，因为他也清楚地看到，比起这些动动指头就可以实现的目标，那些隐藏在“自动化”背后的社会和经济力量，才是问题的关键所在。

　　卡尔写道：“一旦技术嵌入物理基础设施、商业和经济布局以及个人的规范和预想，要改变就很难。这时，技术是社会现状的一个组成部分。技术已经积累了许多惯性，可以继续沿着已有路径发展。”技术的惯性作用不仅表现为其自身的更新换代，更在于技术变革将迫使人们重塑已有的经济、文化和生活方式来适应它，而这种重塑是很难被我们自己发现的。

　　卡尔援引法国社会学家布鲁诺·拉图尔的话说：“如果我们不能认识到一种技术的使用是如何大规模取代、转变、修饰或是扭曲了最初的意图的话，不管这种技术多么简单，都只是因为我们按照改变方式的方法改变了目的，而且因为意愿松动，我们需要一些别的东西，是与我们一开始想要的不同的东西。”(230页)电子地图也好、A PP或者其他软件也罢，其设计初衷并不单纯到只付出不索取。即使为你打造所谓的“个性化”服务，它们也优先考虑流行性、亲近性和便利性等要素，多元性和复杂性是被过滤掉的。

　　而从更广泛的意义上来说，政府、企业、公共事业抑或个人大规模使用自动化软件，也是现代资本主义注重效益和效率的应有之义。因此，要实现人与计算机合理分工、追求效率和培养人类技能等重要关系的平衡，归根结底还是要从重新调整社会和经济发展模式入手。说来颇具讽刺意味的是，飞机发明者莱特兄弟主张飞行员在“技能”和“稳定”之间应当首先重视前者而非后者。因为“稳定”意味着安全和效率，但也意味着飞机变成铁板一块、无法控制，以至不能应付飞行中的突发事故。遗憾的是，飞机后来的运营模式彻底脱离其发明者的初衷，经济利益压倒了一切。一百年后我们回过头来，发现自己还得重新面对这个问题。

　　因此，在“未来我们的思考能力是否会被智能设备替代”这个问题上，你还能不假思索地答“N o”吗？今天我们固然不会说“人定胜× ”之类的话，但过于乐观总会蒙蔽我们对许多重要问题的分析和思考。微博时代滋养微博式的思维模式，光是这一点就足够引起我们的警惕了。(黄夏)

【相关阅读】