《纽约时报》"中国面临过度依赖技术问题"
毒蘑菇中毒、登山遇险、农作物受损接连发生
人工智能恋人服务停止，用户亦诉说失落感
中国接连发生因“盲信人工智能”而导致的事故，包括仅凭生成式人工智能的回答食用毒蘑菇，或在山中遇险等。
美国《纽约时报》于当地时间10月2日报道称：“中国政府在鼓励民众接受人工智能的同时，也面临着‘过度依赖技术’的问题。”中国互联网络信息中心9月29日发布的《生成式人工智能应用发展报告》显示，今年上半年，中国生成式人工智能用户规模突破7亿，普及率超过50%。
吃毒蘑菇后接受透析、登山遇险……盲信人工智能回答酿祸
毒蘑菇中毒是其中危及生命的典型案例。8月中旬，浙江一名王姓男子用手机上的人工智能识别应用拍摄了在家附近采摘的野生蘑菇，得到“无毒”的判断后，将其烹煮食用。随后，他因双臂疼痛和严重腹泻被送往急诊，被诊断为横纹肌溶解症及急性肾衰竭，经紧急血液透析才保住性命。此前7月，一名9岁儿童仅凭人工智能应用“无毒”的回答，食用了与家人在山中采摘的蘑菇，随后被确诊中毒，在重症监护室接受了8天治疗。
也有人在人工智能推荐的登山路线上遇险。8月，江苏苏州一名杨姓男子与妻子争吵后，向人工智能聊天机器人输入自己的心情、性格、身高及身体状况等信息，询问登山路线。人工智能推荐的是杭州海拔超过1500米、尚未开发的童公尖山区路线。几乎没有登山经验的杨某未携带装备、防寒衣物和应急食品便独自上山，在海拔1300米处滑倒，脚部和膝盖受伤，被困在寒冷的山夜中，最终通过手机请求救援。
还有人遭受了财产损失。安徽一名吴姓农民自2025年起向人工智能咨询播种时间和施肥方法。今年7月，他询问如何一次性清除芝麻田里的杂草和害虫，得到的回答是将某种除草剂与杀虫剂混合后，用无人机喷洒。然而，在约10万平方米的整片芝麻田喷洒农药后，幼苗从次日开始枯死，造成15万元人民币（约3000万韩元）的损失。
七成年轻人“在情感上依赖人工智能”……虚拟恋人服务停止
将情感寄托于人工智能的依赖问题也日益凸显。腾讯研究院今年4月发布的调查显示，超过70%的中国年轻互联网用户曾在情感上依赖人工智能，23%的人会定期、习惯性地依赖人工智能。中国青少年研究中心2025年针对8500名未成年人开展的调查中，超过20%的受访者表示：“只想与人工智能交谈，不想与真人交流。”
为此，相关部门自7月15日起实施“人工智能伴侣服务”监管规定，禁止诱导用户产生情感依赖以及与未成年人开展虚拟恋爱，并要求服务上线前必须接受政府安全审查。服务商须明确标注内容由人工智能生成，每隔2小时提醒用户对话对象是人工智能；一旦发现用户存在严重情绪危机，须通知其紧急联系人。相关部门可随时叫停被认定具有风险的服务。
监管实施后，字节跳动旗下“豆包”、阿里巴巴旗下“Qwen”、MiniMax旗下“Xingyan”等停止了定制虚拟朋友或恋人的服务。失去虚拟恋人、朋友或已故家人人工智能化身的用户，随即在社交媒体上表达失落与抑郁情绪。据外媒Rest of World报道，社交媒体上接连出现悼念帖文，甚至发起了要求恢复服务的行动。
《纽约时报》分析认为，此次监管旨在兼顾人工智能普及与社会稳定两项目标，并指出，这是“在鼓励广泛使用人工智能的雄心与避免任何可能破坏社会秩序的因素之间寻求平衡的努力”。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
