[Jang Eunsoo读世界]论使人之所以为人的不完美
人工智能承诺的效率与优化背后,人类留下的不安
相比完美系统,为何更需要不完美的人类
我居住的地区有一辆由人工智能自动驾驶的公交车在运行。它大约每小时从我家门前经过一次。有一天,我上车仔细观察了它是如何行驶的。这并非完全自动驾驶。在穿过地下通道、遇到障碍物等危险路段时,仍由人来驾驶公交车。
考虑到人工智能的发展速度,看起来总有一天,人类驾驶员将不再需要开车。我自然也想到,首尔全境的公交车都在没有人类驾驶员的情况下行驶的画面。驾驶员一边开车、一边仿佛在消灭自己和同事工作岗位的情景,显得颇为讽刺。如果完全自动驾驶公交车穿梭于街头,我真的会安心乘坐吗?还是会因害怕突发事故而惴惴不安?那些交出熟练技能、被排挤出工作岗位的人又将何去何从?种种念头不禁令人心绪纷乱。
有一种说法叫“自动化悖论”。其含义是,自动化系统越精密、越稳定,反而越危险的时刻,恰恰是人类必须亲自解决问题的时刻。这是英国认知心理学家Lisans Bainbridge在1983年发表的论文中系统阐释的现象。自动化系统投入使用并自行处理工作后,负责监督的人类便失去了亲自完成工作的机会,熟练技能也会逐渐退化,这正是其原因。
人类是通过身体与精神协调来学习和掌握技能的存在。当引入自动化系统,人们把原本亲自完成的工作交给机器后,亲手处理这项工作的经验便会逐渐减少。随之而来的,是对工作的感觉消失,指尖的感知也变得迟钝。原本如行云流水般运作的大脑与身体之间的神经连接,也会迅速弱化,进而逐步丧失熟练技能。即使头脑想到了,身体却无法跟上的情况便会出现。这也是一线实务人员常常认为资深管理者缺乏能力的原因。人若不集中全部注意力亲自工作,并在各种情境中不断磨炼,能力便会迅速衰退。
然而,一旦发生自然灾害等情况,自动化系统无法自行处理工作时,就需要高度专注力、迅速的情况识别能力、娴熟的手脚配合以及紧密协作能力。在长期脱离一线实务的情况下卷入这类例外情形,任何人都难免手忙脚乱。习惯自动导航装置的飞机驾驶员、依赖算法交易的金融投资公司职员等,常会在紧急状态下犹豫不决、惊慌失措,进而酿成重大事故。随着人工智能的应用使自动化扩散至整个社会,日常生活中人类与机器人共事的情况不断增加,这类事件显然会愈发常见。
自动化具有夺走熟练技能、使人类丧失能力的倾向。在引入自动化的领域,人类往往被迫从事低技能劳动,或沦为仅在需要时才被召唤的自由职业者。劳动强度提高,就业变得不稳定,用于工作的时间也会毫无规律地不断延长。这种不稳定的劳动环境甚至会提高过劳和事故的风险。这种处境将人推向焦虑,并使人深陷恐惧。这正是我们如今的状况。
随着人工智能和自动化技术迅速普及,人们也日益担忧人类的判断力和熟练技能可能减弱。不应将一切交由自动化系统,而应保留人类主动介入和作出判断的空间。阿视亚经济资料图片
View original image英国经济学家Tim Harford在《论使人之所以为人的不完美》(Wilma)一书中主张,自动化会带来更频繁的错误和更严重的失误。引入自动化后,在单项工作层面,效率会提高,事故也会减少。然而,即便自动化系统单次出错的概率仅为人类的百分之一,其工作处理量也可能快100万倍。在这种情况下,错误总量可能达到人类亲自处理时的1万倍。因为与受身体限制的人类不同,自动化机器所覆盖的工作范围极其广泛。
越是涉及人的生命、预示可能发生大规模灾难等要求超高精度运行的工作,自动化就越危险。不能仅因人工智能在高考中拿到满分、游戏玩得不错,就大惊小怪。现实比高考更难,街头比游戏复杂无数倍。若将其应用于现实后出现人工智能无法处理的问题,便会演变为可怕的社会灾难:飞机坠毁、输电网停摆、放射性物质泄漏、金融市场崩溃。
Harford表示,为工作引入过于流畅且完美优化的系统并不正确。与无人参与的自动化相比,有意保留阻力或不便,也就是保留人类不得不参与并主动介入的摩擦,从长期看反而更安全。因为这样即使在无法避免的例外情形中,也能发挥韧性。Harford援引社会科学家Scott Page的话说:“如果所有人都以同样的方式思考,就会在同样的地方受阻,这样的组织便无法前进。”
因此,如同飞机驾驶员定期接受手动飞行训练一样,与其将一切交给自动化系统,不如制定保留人类熟练技能的方案,例如自主判断并开展工作,以自主、即兴的方式处理业务。现实不是数据,生活也无法被彻底整理得井然有序。人工智能陷入混乱、自动化系统发生故障的情况必然会出现。在那一刻,冲上前去处理问题的人需要具备最出色的熟练技能。然而,从新人时期起未能通过经历各类工作、积累解决各种问题经验的人,很难在这样的紧急情况下具备能够迅速而灵活解决例外问题的“娴熟即兴能力”。
随着人工智能自动化技术普及,国家和企业越是被其吸引,就越应记住:现实不会乖乖按照预先写好的剧本或既定算法运转。正如本书原题“messy”所暗示的那样,现实杂乱而烦人地不断波动。我们需要珍视那些能够迅速理解情境、独立作出判断并提出创造性解决方案的熟练人才。只有通过反复训练打牢基本功,经常在不确定的环境中直面问题,并通过小小的错误和失败学习应对风险的人,才能获得熟练技能。糟糕的组织只关注人工智能所承诺的效率和优化,而优秀的组织也会重视在复杂、模糊的情境中磨炼出来的熟练技能。思考人们在组织中经历什么、如何度过时间,正是比任何事情都重要的时期。
Jang Eunsu,出版文化评论家
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。