替代劳动,“全民高收入”或成可能
预计5年内超越全人类智力,重塑劳动格局
专家调查:AI灾难风险最高达21.5%

有观点认为,人工智能(AI)将在未来5年内超越全人类智力总和,甚至可能改变劳动和金钱的意义。与此同时,专家也警告称,同期AI引发大规模人员伤亡和经济损失的可能性超过20%。对于AI将带领人类进入富裕时代的期待,与其可能引发失控灾难的担忧正同时升温。

有观点认为,人工智能将在未来5年内超越全人类智力总和的水平,甚至可能改变劳动和金钱的意义。不过,专家也警告称,同期人工智能引发大规模人员伤亡和经济损失的可能性超过20%。图片与报道具体内容无关。Pixabay供图

有观点认为,人工智能将在未来5年内超越全人类智力总和的水平,甚至可能改变劳动和金钱的意义。不过,专家也警告称,同期人工智能引发大规模人员伤亡和经济损失的可能性超过20%。图片与报道具体内容无关。Pixabay供图

View original image

韩联社29日援引美国网络媒体Axios报道,麻省理工学院跨学科研究团队FutureTech与澳大利亚昆士兰大学研究团队针对全球37个国家的272名AI专家开展了AI风险评估调查,并公布了调查结果。研究团队于去年年底进行了三轮德尔菲调查,分析了24类AI风险的发生概率及严重程度等。

预测AI引发灾难的概率为21.5%

研究团队首先将造成超过100万人死亡、超过1000亿美元经济损失,或导致民主制度和公民权利崩溃等文明规模无形损害的情形界定为“灾难性后果”。若维持当前的AI开发竞赛及企业技术部署方式,在2025年至2030年间,24类风险中有18类发生灾难性后果的概率超过10%。不过,研究团队指出,各项风险可能相互重叠或彼此影响,因此不能简单地将相关概率相加。

OpenMind Robotics的人形机器人。法新社韩联社供图

OpenMind Robotics的人形机器人。法新社韩联社供图

View original image

被评估为灾难可能性最高的项目是“具备危险能力的AI”,即可能脱离人类控制或被用于造成大规模损害的AI,概率为21.5%。网络攻击以及化学和生物武器的开发与使用以21.0%紧随其后。随后依次为:权力集中于少数企业或国家、AI利益分配不公,占18.0%;优先追求性能和发布速度而非安全性的竞争机制,占16.6%;虚假或误导性信息,占12.8%。即便假设实施兼顾成本和现实可行性的安全措施,危险AI能力、武器及网络攻击、环境损害、不平等及失业、权力集中等5类项目的灾难可能性仍超过10%。


专家认为,AI用户和普通公众最容易受到损害,但降低风险的责任在于通用人工智能开发企业、政府及监管机构。分析还显示,信息通信、金融和国家安全领域可能最易暴露于AI风险。在这项调查结果公布之际,Tesla首席执行官Musk预测,AI超越人类能力的速度将远快于预期。

Musk:“5年内超越全人类智力”

Musk近日接受英国时事周刊《经济学人》采访时也预测,约5年内,AI的智能可能超过全人类智能总和。他称,除人类自身的存在外,AI实际上将没有任何不如人类擅长的领域。他还表示,当AI系统能够完成包括软件开发在内的数字工作,人形机器人也能从事制造、物流等体力劳动时,人类工作或将不再是维持生计的义务,而成为一种选择。

Musk近日接受英国时事周刊《经济学人》采访时预测,约5年内,人工智能的智力可能超过全人类智力总和。他称,除人类这一存在本身外,人工智能实际上将无所不能,胜过人类。路透社、韩联社供图

Musk近日接受英国时事周刊《经济学人》采访时预测,约5年内,人工智能的智力可能超过全人类智力总和。他称,除人类这一存在本身外,人工智能实际上将无所不能,胜过人类。路透社、韩联社供图

View original image

Musk将此称为“令人惊叹的富裕时代”。他解释称,若AI和机器人能够大规模生产商品和服务,供应短缺随之消失,金钱的意义也可能在10年内大幅减弱。他预测,在这一过程中,政府或有必要建立将自动化创造的财富分配给国民的“全民高收入”制度。


不过,Musk仍维持其此前立场,即AI导致人类走向毁灭的可能性约为10%至20%。他将AI与人类的智力差距比作人类与黑猩猩的关系,并承认人类对高度发展的AI的控制权可能被削弱。



尽管如此,他称AI开发是难以逆转的趋势,与其停止技术进步,不如将其引导至安全方向。他认为,AI为所有人带来富裕的可能性大于其导致毁灭的风险。Musk还提议,主要AI企业应每隔数周讨论一次安全和安保问题,并在发布尖端模型前由竞争对手相互验证其风险性。若发现严重问题而相关企业仍不予解决,政府应当介入。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点