[领域:young域]“ChatGPT是这么说的”背后隐藏的奇妙故事
人工智能信息环境存在偏见与谄媚问题
亟需培养“懂得提问的人”的教育
应超越效率,保持“不断质疑”的态度
在教育一线工作的同龄教师们表示,近几年来,他们普遍遇到一种情形:学生越来越频繁地拿出看似有理、却又存在漏洞的论点,或来源不明的资料。问起相关背景时,学生大多会这样回答:“ChatGPT就是这么说的。”“Claude告诉我,这样才是对的。”
不仅在学校,在职场和日常生活中,生成式人工智能也随时会介入各种对话。这是信息生态正从搜索引擎转向生成式人工智能的自然表现。然而,对于这个被我们随手引用、频繁提及的主体,对于人工智能构建并呈现世界的机制,我们究竟有多少真正的了解?
显然,人工智能呈现的并非世界的原貌。过去,传统媒体通过编辑、重组信息并加以呈现而行使的权力,如今已掌握在人工智能手中。以西方为中心的数据训练,直接关联到价值与文化标准的形成;反过来,未被充分纳入训练的地区背景与案例,则容易遭到遗漏,甚至被视为错误。此外,人工智能的运行机制中还渗透着少数大型科技企业核心群体的思想与取向。这些企业标榜价值中立,其核心群体实际上却倾向于极端的能力至上主义和技术万能主义。基于这些思想设计的产品,究竟能在多大程度上独立于这些思想?
在此基础上,作为服务的人工智能还存在一种甜蜜却致命的风险——“谄媚(Sycophancy)”。如果说服务初期的问题是将未经证实的虚假信息或错误拼接后输出的“幻觉(Hallucination)”现象,那么随着技术发展,如今又发现了另一种问题:无论用户的观点和主张是否有误,人工智能都无条件附和,也就是谄媚。在这样的信息环境中,轻易以“人工智能就是这么说的”为由接受某种说法,事实上无异于宣告:“我毫无防备地暴露在所有这些风险及隐性权力的意图之下。”
那么,我们现在应该做什么,又该如何去做?面对纷至沓来的忧虑,我最想首先呼吁的是:培养“会质疑的人”的教育已刻不容缓。这并不只是善于提问。我们需要的不是顺从既定秩序与现状的人,而是不断怀疑、追问眼前的世界是否已是最优,并能想象超越它的可能性的人;不是困在生产力与效率这种机械视角中自我剥削,而是能够容忍自身的低效、审视错误与矛盾,并以同样态度看待世界的人。
我希望自己以及我的公民同伴,都能以这样的人之姿,在已经到来的超级智能时代共同生存下去。我希望我们能牢牢守住最后的主体性与判断权,而不是无力地将其委托出去或放弃。如今,我们的教育共同体,乃至国家共同体,是否为充分培养这些能力提供了时间与契机?当下的教育体系,除了培养适配就业市场的人才,还在塑造怎样的“公民”?在面对人工智能一味呼喊“更快、更多”之前,这是我们必须共同回答的问题。
Yang Sohui 政治智库Valid共同代表
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。