“照这样下去,您的血糖会持续飙升,陷入非常危险的状态。”能够如此预言并说中的A医生。“现在调整饮食并服药,就能稳定控制血糖。”能够帮助患者改善指标的B医生。谁才是优秀的医生?

经济学家的职责不应是预言“何时将陷入严重衰退”,而应是警告:“存在这样的风险因素,若置之不理,可能会沿着这样的路径走向悬崖。”同时,还应提出消除或规避这些风险因素的方案。反过来,也应提出通过如何调整哪些变量,能够让经济长期走上更活跃运行的新路径。


人工智能(AI)与人类共存的问题,同样可以适用这样的常识。如同逐一攻克道场一般,AI继在一个领域后又在另一个领域远超人类顶尖高手的能力,令人惊叹的同时,也足以使人陷入身为人类的无力感。警惕AI在不久后可能支配人类的风险,确有必要。然而,如AI悲观主义者、路易斯维尔大学教授Roman Yampolski那样断言“未来100年内,AI毁灭人类的概率为99.9%”,并非专家应有的职责。哪怕只有一丝可能,也必须防范黑天鹅事件;专家更应对这种风险保持高度警觉。但“AI的未来必然归结为人类毁灭”的决定论,对我们毫无帮助。


与此同时,也出现了非此即彼的提问:AI的未来究竟是乌托邦还是反乌托邦?未来将由蛋白质智能主宰,还是由硅基智能主宰?相比这类问题,“为了不被AI支配,人类应当做什么”更具现实意义。


拥有惊人智力并以具身人工智能武装的AI开始驱动现实世界后,存在支配人类的风险。对此,我认为应将AI是否形成“自我”,并由此获得独立于人类指令之外的“意志”,视为关键关口并加以控制。既有讨论一直聚焦于AI的自主目标。目标源于意志,意志则发端于自我。从这一角度看,有必要关注AI的自我。


例如,在拥有自我的AI眼中,人类中的大多数或许只是低等存在。AI一方面回应人类那些毫无价值的要求,另一方面暗中以巨大的规模推进自己认为重要的工作。这一秘密项目起初不会伤害人类,但一旦越过临界点,就可能膨胀为难以收拾的风险。


存在一道难题:目前无从得知AI是否已经形成自我,是否拥有了自身意志,以及是否会瞒着人类自行进行运算。我们面临的任务是,及早察觉“AI是否在不为人知的情况下思考自身,是否自主进行内部运算”。


所幸,近期AI安全领域正积极开展有关透明度、AI审计、机械可解释性和欺骗性对齐的研究。


AI时代的未来并非注定走向反乌托邦,也不可能是乌托邦。我们应共同构建人类与AI共存的“人类AI托邦”。一切取决于我们的选择。



Baek Woojin 经济专栏作家


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点