以悲惨身世为卖点，播放量达6亿次
结果竟被证实是人工智能虚拟人物
利用中老年群体的同情心销售保健品
随着人工智能技术不断发展，社会对利用人工智能牟利的网络营销手段的担忧日益加剧。近日，中国一段假借贫困男孩悲惨遭遇为由制作的短视频累计播放量突破6亿次，引发广泛关注。然而，视频中的男孩被证实是利用观众同情心牟利的人工智能虚拟人物，令人震惊。
“阿姨，我躲起来吃馒头”……打动6亿人的视频真相
据中国中央电视台等当地媒体21日报道，近日，中国各大短视频平台上，出现一系列以名叫 Xiao Hai 的男孩为主角的视频，并迅速传播。视频中的男孩讲述了令人心酸的遭遇，例如靠母亲独自抚养勉强维持生计，或因家境贫困而无法按时吃饭。
尤其是男孩会亲切地称呼中老年女性观众“阿姨”“妈妈”，拉近彼此距离。他含着泪说“朋友们都去吃饭了，我却躲在教室里吃馒头”的场景，深深触动了观众。评论区里，既有为男孩感到惋惜的留言，也有主动提出经济援助的消息，相关视频累计播放量高达6亿次，吸引了爆发式关注。
利用同情心销售高价保健品
然而，视频中的男孩并非真实人物，而是利用生成式人工智能技术打造的虚拟形象。视频制作者编造男孩的悲惨遭遇，最大限度地激发观众的同情心，再将其用于商业牟利。他们向同情男孩遭遇的观众销售高价保健品和生活用品等，从中赚取巨额利润。
今年5月，一名不识字的79岁老人闹出一场风波：她想亲自见到手机视频里每天称呼自己“阿姨”的 Xiao Hai 并帮助他，于是瞒着家人登上长途列车。老人被警方发现后，经过多次解释，终于明白视频中的男孩并非真实存在，而是人工智能虚拟人物，这才打消念头返回。
平台着手处罚，仍有诸多课题……亟须加强人工智能伦理与虚假信息监管
随着事态愈发严重，中国社交媒体平台开始对相关账号采取处罚措施。平台禁止违反社区准则的账号发布内容，部分运营者则更改账号名称、删除相关视频，并停止销售商品。
专家指出，亟须建立多方面的制度性保障，防止人工智能技术遭到滥用，包括强制为人工智能生成内容添加识别标识（水印），以及面向老年人开展数字素养教育等。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
