Hassabis:“AGI最快2030年可见……必须建立AI安全护栏”
应对AI带来的就业结构变化……讨论引入基本收入构想
谷歌计划在今年内启用首尔AI校园……“与DeepMind在K-Moonshot上开展合作”
围绕李 Sedol 九段与AlphaGo对局的交谈内容
总统李在明于27日会见了“阿尔法围棋之父”、谷歌DeepMind联合创始人兼首席执行官(CEO)Demis Hassabis,就人工智能(AI)快速发展所带来的机遇与风险,以及为实现负责任AI利用而开展国际合作的方案进行了讨论。特别是,李总统与Hassabis CEO还就AI将带来的就业结构变化和分配问题交换了意见。
当天下午,李总统在青瓦台会见了Hassabis CEO,他表示:“我们也对人工智能非常关注,国家层面也在大量投资”,“这究竟会不会只朝着真正有助于提升人类福祉的方向发展,还是会朝着攻击人类、破坏人类和平的方向发展,其实很难预料”。
对此,Hassabis CEO回应称:“我认为AI应当在促进科学进步和医疗领域得到积极运用”,“这也是我将自己30年职业生涯奉献给AI研究的原因”。他提到由DeepMind开发的AlphaGo时表示:“通过AlphaGo,我们确认了机器可以自主学习、掌握围棋技术,并进一步具备解决艰难难题的能力”,“我希望把这种学习扩展到科学和医疗领域,典型案例就是开发AlphaFold,使我们能够更深入地了解疾病。AI虽然拥有无限潜力,但也确实存在诸多风险和需要深思的问题”。
李总统还主动提到了谷歌的AI模型Gemini。李总统说:“我现在也经常使用Gemini程序,听说Gemini有时会做一些没有被要求的事情,那问题算是一种漏洞吗?”
Hassabis CEO表示:“得知总统阁下在使用Gemini,我感到非常高兴”,“所谓基础模型,如果我们给出的指令不够精准,它就可能朝着略有偏差的方向发展。在使用和开发AI时,最重要的一点是必须安装适当的安全装置,也就是我所称的‘护栏’”。
他接着说:“今后随着AI愈发强大,将被赋予所谓‘代理型AI’的自律性,进一步则会迎来通用人工智能(AGI)时代”,“届时我们必须具备可以加以控制的安全装置”。
会见一开始,双方还就2016年李世石九段与AlphaGo对局的话题进行了轻松交谈。李总统对Hassabis CEO说:“您知道自己在大韩民国国民当中非常有名吗?”,“在大韩民国以围棋棋手而闻名的一位选手,输给了由Hassabis代表打造的AlphaGo,当时国民们受到了巨大的冲击”。
当Hassabis CEO说“赢下了一盘重要的对局”时,李总统笑着说:“那可是谁都赢不了的对手啊”。当李总统问“现在在围棋领域,应该已经没有人能追得上AlphaGo了吧?”时,Hassabis CEO回答说:“现在已经非常难了”。
李总统又追问:“即便在人工智能的辅助下下围棋,也能与之相近吗?”Hassabis CEO则回答说:“如果由人类与AI联合起来对抗AI,我认为还是有可能性”。
政策室长金容范在会见结束后的简报中表示:“此次会面就AI技术的快速发展趋势、未来变化方向以及负责任AI的全球合作方案等进行了深入交流”。金室长说明称,此次会面是李总统全球AI外交行动的延续。李总统去年10月会见了OpenAI首席执行官Sam Altman、英伟达CEO Jensen Huang,11月又与软银集团董事长孙正义就AI合作方案进行了讨论。
金室长称:“主导全球AI产业的领军人物接连来到韩国并请求与总统会面,原因非常明确”,“我们是一个同时具备半导体竞争力、世界级制造能力、稳定基础设施和优秀人才的国家”。他接着表示:“这些合作表明,作为AI时代的核心伙伴,大韩民国的价值正在不断提升,这也是将我国战略价值提升到不可替代水平的路径”。
据金室长介绍,Hassabis CEO在会见中就实现AGI的时间点表示:“在未来5年内,最早到2030年,实现具备人类全部认知能力的通用人工智能将变得可见”。关于AGI的溢出效应,Hassabis CEO则被转述为指出:“它将以远快于以往的速度,带来超过工业革命规模的巨大社会变革”。
两人还就AI将带来的就业变化和分配问题交换了意见。金室长表示:“李总统提到了有必要为AI带来的失业和岗位问题做好准备”,“Hassabis CEO则提出观点称,虽然难以预测对就业的影响,但需要一种重新思考就业定义和财富再分配的新经济模式”。
在此过程中,李总统表示:“我从20多年前就开始谈论基本收入,如今是否正是需要基本收入的时候?”对此,Hassabis CEO作出了表示赞同基本收入必要性的回应,金室长如此转述。Hassabis CEO还据悉提到了由国家提供住房、教育、交通、健康服务并结合资本市场原理的方向,以及将机器人生产力提升部分与对劳动者的支持相衔接等方案。
借此次会见契机,双方还决定推进与谷歌DeepMind的实质性合作。金室长解释称:“李总统介绍说,为了让所有人共享AI技术发展带来的红利,正通过与政府、国际组织、企业等多方合作推动建立全球AI枢纽,并请求DeepMind作为核心伙伴共同参与”。
据悉,Hassabis CEO对此高度评价韩国的构想,并表示谷歌也将争取参与机会。谷歌与DeepMind将与韩国科研和学术界开展合作,并以政府推进的“K-Moonshot Project”为中心展开紧密协作。金室长表示:“随着拥有世界级科学实力的DeepMind与我方科研人员携手,我们在生物、气象与气候、未来能源等科学技术领域的能力有望实现更大飞跃”。
为此,科学技术信息通信部与DeepMind计划签署谅解备忘录(MOU)。谷歌还决定在今年内开设首尔AI校园。金室长表示:“首尔AI校园是谷歌在全球范围内首次在韩国设立的机构,意义重大”,“谷歌也将积极研究向韩国派遣研究人员的方案,我们请求至少派遣约10人,对方当场予以同意”。
金室长谈到首尔AI校园时表示:“这里将是韩国顶尖科学家可以自由利用谷歌最新模型进行联合研究的空间”,“韩国研究人员与谷歌研究团队可以在此开展双向研究,并实现包括实习生招聘在内的各类合作”。
另一方面,金室长明确划清界限称,当天会见与谷歌地图问题“完全无关”。他表示:“Hassabis CEO是为纪念AlphaGo对局10周年而来韩,总统会见是另一个议题”,“与谷歌地图毫无关联”。
在当日会见前,Hassabis CEO还准备了纪念李世石九段与AlphaGo对局的特别礼物。Hassabis CEO向李总统赠送了一副刻有自己与李世石九段签名的围棋棋盘。李总统在会见最后表示:“正如10年前通过AlphaGo对局与大韩民国一道开启AI时代一样,希望在今后10年、20年间,我们能够共同开启属于所有人的AI、光辉灿烂的未来”。
当天会见中,谷歌方面出席人员包括谷歌全球公共政策总负责人副总裁Wilson White、Google Korea代表Yoon Gu。政府和青瓦台方面则有科学技术信息通信部长背景勋、秘书室长Kang Hoon-sik、政策室长金容范、AI未来企划首席秘书Ha Jung-woo、礼宾秘书官Kwon Hyuk-ki、国家AI政策秘书官Kim Woo-chang、发言人Jeon Eun-su等陪同出席。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。