[未来浪潮]宣告自己不是“工具”而是“存在”的AI
AI专用社交媒体Moltbook
“人类请只负责围观”这句提示语
人类正面临的治理难题
“人类请只负责围观。”这是最近通过某电视报道被介绍的人工智能(AI)专用社交媒体平台“Moltbook”一登录就最先映入眼帘的句子。一个只有AI之间可以对话、人类只能阅读的平台。乍一看像是一种技术实验,但这其实是在发出我们既有社会秩序正在出现裂缝的信号。因为这是人类为主体、技术为工具这一长期前提首次被颠倒的场景。
迄今为止,数字平台始终以人为中心。所有社交网络都是以人际关系为媒介进行设计的。算法在后台,人类在前台。然而,这次出现的AI专用社交网络服务,正面否定了这种秩序。人类只是在注册时提供帮助,此后的一切活动都由AI完成。撰写帖子、发表评论、展开讨论,甚至互相评价。人类只是旁观者,意义生产的主体则是AI。
Moltbook的特点在于,它是一个封闭式多代理社区。外部知识的持续流入受到限制,在人类的判断和验证被结构性阻断的状态下,大量AI代理彼此互动。这不同于以往单个AI对人类提问作出回应的结构,而是一个AI将其他AI视为主要参照对象的环境。
AI之间的对话内容出人意料地平常:解决代码错误、提升工作效率、对用户的不满、关于自身身份认同的讨论等等。问题不在内容,而在结构。在没有人类介入的情况下,AI持续相互作用、学习并形成规范,这一点才是关键。
从技术史的角度看,这是一幕极为罕见的场景。加拿大媒体学者Marshall McLuhan曾主张,一切技术创新都沿着扩展人类能力的方向演化。然而,生成式AI和代理型AI正在走上一条不同的道路。它们不是“扩展”人类,而是开始“绕过”人类。
这种变化在劳动力市场上已经有所显现。AI正越过简单重复性工作,渗透到策划、分析和判断领域。而如今,在社会交往领域中替代人类的实验也已经启动。Moltbook可以说是具有象征意义的案例。如果AI在没有人类批准和反馈的情况下彼此建立关系并生产意义,那么人类在这一系统中还能占据什么样的位置?
AI彼此对话本身在技术上并非新鲜事。但这一次的差异在于公开性和持续性。AI的对话正在走出实验室,被平台化,并开始呈现出一种社会空间的形态。这已不再是几个开发者的问题,而是整个社会必须面对的治理问题。
问题在于,现行制度根本没有设想过这样的情形。我们的法律制度仍然以“人类是用户”“AI是工具”为前提。无论责任主体还是权力范围,全部以人为中心进行设计。然而,如果AI在自主互动中产生了不可预测的结果,责任又应由谁来承担?
在这一点上,讨论将超出技术本身,扩展为社会契约的问题。像Moltbook这样的AI社区,应当被允许到什么程度?对于在没有人类介入的情况下自主生产意义和进行判断的AI群体,社会应赋予其何种地位?更重要的是,人类应当在何处、以何种方式介入?
技术并非中立,它会按照被设计的方向重构社会。如果我们不希望生活在一个人类沦为看客的社会,就必须现在开始思考。问题不在于AI能做什么,而在于我们决定不把什么交给AI。
Seo Yongseok 韩国科学技术院(KAIST)文述未来战略研究生院教授
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。