“生成式AI无法取代人”……制定心理健康AI使用指南
保健福祉部、大韩神经精神医学会发布预防过度依赖指南
每10名用户中有7人也将其用于情感需求搭配
随着越来越多人将生成式人工智能（AI）不仅作为信息检索工具，还用于倾诉烦恼、获得情感安慰，政府制定了以精神健康为目的使用AI的指南。其核心内容是，不要把AI的回答当作精神疾病诊断或治疗的依据，同时也要注意个人信息输入和过度依赖问题。
保健福祉部和大韩神经精神医学会在10日“精神健康日”到来前，于8日发布了《精神健康目的生成式AI使用指南》。指南分为面向所有使用者的版本，以及面向儿童、青少年和监护人的版本，共两种；每种均包含3条核心信息和21项建议。
政府制定这类指南，是因为近来生成式AI的使用迅速普及，AI已不再只是用于学习、工作和信息检索的工具，还逐渐成为日常对话、情感交流以及精神健康和心理咨询方面的交流对象。
韩国保健社会研究院于8月25日至9月4日，对最近一个月内使用过生成式AI的1019名15至79岁人士进行了问卷调查。结果显示，68.8%的受访者出于日常对话、情感交流与安慰、精神健康及心理咨询等情感需求使用AI。尤其在青少年（15至18岁）中，这一比例也达到69.2%。
认为AI确实提供了帮助的受访者也不在少数。79.9%的受访者表示，自己曾通过AI的回答或建议获得帮助或解决问题。与此同时，16.3%的受访者表示难以停止与AI对话；9.8%的人因无法控制对话时间，导致睡眠或日常生活受到影响；另有10.6%的人没有与身边的人商量，仅凭AI建议就作出了辞职、分手等重要决定。
本次指南的第一条原则是“在开始倾诉心事前，先了解并做好安排”。也就是说，以精神健康为目的使用AI之前，应确认服务的用途和适用对象、有关效果的依据以及个人信息处理方式。若服务宣称具有医疗效果，还应确认其是否经过认证机构验证或批准。指南建议，不要向AI输入姓名、联系方式、地址等个人信息，也不要输入诊断书、处方、检查结果等敏感资料。
第二条原则是“不要把AI对自身状况的判断当作结论”。调查显示，14.6%的受访者曾根据与AI的对话，认定自己患有抑郁症、焦虑障碍等特定精神疾病，或将AI的回答当作医学诊断。另一方面，通过专家或官方资料核实AI提供的精神健康信息的受访者仅占11.9%。对此，保健福祉部强调，不应将AI对精神健康状况的诊断或风险评估视为确定的医学判断；相关信息应通过学会、政府机构等提供的经核实资料或专业人士再次确认。
第三条原则是“与AI保持距离，向他人倾诉”。尤其是以精神健康为目的使用AI的人，过度依赖的风险更高。全体受访者中，表示“即使想专注于现实中的事情，也会继续与AI对话”的比例为16.3%；而在以精神健康为目的使用AI的受访者中，这一比例升至23.4%。仅凭AI建议作出重要决定的比例，全体受访者为10.6%，在精神健康目的使用者中则升至17.8%。
为保护青少年，政府还制定了单独的指导方针。在15至18岁的青少年中，自认为依赖AI的比例为51.7%，在所有年龄段中最高。指南建议青少年“不要照搬AI的回答，应先审视自身情况”“不要透露个人信息”以及“检查自己是否把AI角色当成现实中的朋友或恋人”。
指南建议监护人不要一味禁止子女使用AI，而应先了解子女使用AI的目的和方式，并共同制定使用规则。83.1%的青少年表示，监护人知道自己使用AI；但与监护人共同制定AI使用规则的仅占2.5%。
本次调查中，认为政府有必要对生成式AI的使用发挥作用的受访者占86.9%。其中，认为有必要“制定AI精神健康指南并完善法律制度”的比例达到68.7%。保健福祉部计划今后制定可供教育和临床场景使用的AI教育项目，并于明年为包括重度精神疾病患者在内的高风险群体制定定制化指南。
保健福祉部精神健康政策官Lee Seonyeong指出：“生成式AI可以成为获取信息和情感帮助的新途径，但亲切且充满肯定语气的回答并不总能保证准确性或安全性。”大韩神经精神医学会理事长Choi Junho强调：“AI无法取代专业评估和治疗，因此有需要时，及时寻求医务人员的帮助十分重要。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
