[Slate]鲁莽隐匿AI存在的《仙境》

在电影《超人（1978）》中，Clark Kent（Christopher Reeve）与已故亲生父亲 Jor-El（Marlon Brando）相见。此时的 El 是生前样貌被投射出来的“数字孪生”（在虚拟空间中生成与实物一模一样的对象，并通过各种模拟试验进行验证的技术）。父子之间可以双向对话，El 向他说明被送往地球的目的等内容。但两人尚未形成精神层面的共鸣。

View original image

数字孪生是跨越时空分享专业知识和经验的有益媒介。比如，成功的企业家、文学家、程序员等，可以向后代传播该领域的专业知识以及独特的经验、风格、思维方式和价值观。传承知识和经验的书籍与论文，等于是被实时对话式的数字人所取代。

在电影《Wonderland》中，Bai Li（Tang Wei）使用数字孪生的目的则不同。她被宣告时日无多，又想对女儿 Jia（Yeo Gawon）隐瞒即将到来的死亡事实。她谎称自己要长期出差，在视频通话中以数字孪生现身进行欺瞒。

数字人格并非人类，其并不存在于现实，只存在于影像之中。包括外形在内的一切都是拟人化的结果。它看上去像人类那样思考，实则是通过分析各类数据得出结果。Bai Li 的数字人格则超出了这一范畴，凡事都能自主判断和行动，入睡后还会做梦，与被困在另一世界的人类无异。

导演 Kim Taeyong 所描绘的人类与人工智能（AI）之间的“水平共存”，触发了日本机器人学家 Mori Masahiro 于 1970 年提出的“恐怖谷”效应。该理论认为，机器人外形越接近人类，人们对其的好感度就越高，但在某一刻会突然觉得“哪里不对劲”，随之产生强烈的排斥感，好感度如同掉入山谷般骤降。

View original image

Bai Li 的数字人格在作为数字孪生世界的 Wonderland 中不断积累新经验、结下新的缘分。即便与现实世界中断交流，它依然会思考并存在。即使在梦中意识到自己是为人类而实现的一项技术，这一点也没有改变。它渴求与女儿的戏剧性重逢，奋力冲出 Wonderland 之外。影片为突出纯粹的母爱，打破了科学设定的框架。

细究起来，从基本设定开始就颇为勉强。Bai Li 的母亲 Nina Fow 一直向外孙女隐瞒女儿的死讯，管理者们明知此事却置之不理。从人类尊严的角度看，刻意隐瞒人工智能存在的行为，是一项重大的挑战，因为这可能模糊生者与死者的界限，也可能给留下来的遗属和后代带来更深的伤痛。

首尔女子大学教授 Kim Myeongju 在其著作《AI 没有良心》中强调称：“事先告知人工智能的存在与角色，是明确 AI 为人类而存在这一点的第一粒纽扣，也是维持垂直共存关系的起点。”

“不仅应当告知 AI 的存在本身，还应在事前具体告知 AI 所承担角色的范围及能力水平，这才更为妥当。就像在公共场所安装并运营类似闭路电视（CCTV）的视频信息设备时，必须遵守事先告知程序一样。法律规定，应当设置告示牌，让普通人也能轻易识别安装 CCTV 的目的和地点、拍摄范围和时间，以及管理责任人的姓名和联系方式。”

必读新闻

“Kim Jong Un因脑出血去世，遗体被秘密转运”死亡传闻席卷全球……看朝鲜发布的照片

• “不是济州岛，也不是釜山”……近来大批20至30岁年轻人涌向的“韩国圣托里尼”
• 韩乌关系持续恶化……韩国政府撤回驻乌使馆半数人员（综合）
• “车辆两度冲撞，系蓄意袭击”……在任女议员一腿被截肢，澳大利亚震惊
• “今晚吃韩牛”冲着半价去了，却说“还得有别的商品才会多买啊”——Homeplus空荡荡的店面

View original image

在北美、欧洲等地，陆续出现了帮助在数字世界中抹去逝者痕迹的社会企业。这与数字孪生的概念正好相反。自称“数字殡葬师”的 DeadSocial 就是代表性案例。它帮助人们为即将到来的死亡提前做好准备，使现实与数字世界中的“最后一程”得以顺利收尾。逝者身故后，该服务会整理其数字遗产、账号等，最大限度地减少逝者与遗属可能遭受的损害。与 Wonderland 相比，这样的做法要系统得多，也安全得多。

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。