"생성형 AI가 사람을 대신할 순 없어"…정신건강 AI 이용지침 마련

복지부-신경정신의학회, 과의존 예방 위한 가이드라인 발표
이용자 10명 중 7명, 정서적 목적으로도 활용

생성형 인공지능(AI)을 단순한 정보 검색 도구를 넘어 고민 상담이나 정서적 위로를 얻는 수단으로 사용하는 사람이 늘자 정부가 정신건강 목적의 AI 이용에 대한 가이드라인을 마련했다. AI의 답변을 정신질환 진단이나 치료를 위한 판단으로 받아들이지 말고, 개인정보 입력과 과의존에도 주의해야 한다는 게 핵심이다.

보건복지부와 대한신경정신의학회는 오는 10일 '정신건강의 날'을 앞두고 '정신건강 목적 생성형 AI 이용 가이드라인'을 8일 발표했다. 가이드라인은 모든 이용자용과 아동·청소년 및 보호자용 등 2종으로 구성됐으며, 각각 3가지 핵심 메시지와 21개 권고문을 담았다.

정부가 이같은 가이드라인을 마련한 것은 최근 생성형 AI 이용이 빠르게 확산하면서 AI가 학업·업무와 정보 검색을 위한 도구를 넘어 일상적인 대화와 감정적 교감, 정신건강·심리상담을 위한 대화 상대 역할까지 하고 있기 때문이다.

한국보건사회연구원이 지난 8월25일부터 9월4일까지 최근 한 달 이내 생성형 AI를 사용한 15~79세 1019명을 대상으로 설문 조사한 결과, 응답자의 68.8%가 일상 대화나 감정적 교감·위로, 정신건강·심리상담 등 정서적 목적으로 AI를 이용하고 있었다. 특히 청소년(15~18세)의 경우에도 이 비율이 69.2%에 달했다.

AI가 실제로 도움을 준다는 응답도 적지 않았다. 응답자의 79.9%는 AI의 답변이나 조언을 통해 도움을 받거나 문제를 해결한 경험이 있다고 답했다. 동시에 AI와의 대화를 중단하기 어려웠다는 응답도 16.3%를 차지했다. 대화 시간을 조절하지 못해 수면이나 일상생활에 방해를 받은 경우가 9.8%, 주변 사람과 상의하지 않고 AI 조언만으로 퇴사나 이별 등 중요한 결정을 내린 경우도 10.6%였다.

이번 가이드라인의 첫 번째 원칙은 '마음 이야기를 시작하기 전에 살펴보고 정해두세요'다. 정신건강 목적으로 AI를 이용하기 전에 서비스의 목적과 대상, 효과에 대한 근거, 개인정보 처리 방식을 확인해야 한다는 것이다. 의학적 효과를 내세우는 서비스라면 공인기관의 검증·승인 여부도 확인해야 한다. 가이드라인은 이름·연락처·주소 등 개인정보는 물론 진단서·처방전·검사결과지 같은 민감한 자료는 AI에 입력하지 말 것을 권고했다.

두 번째 원칙은 '내 상태에 대한 AI의 말을 결론으로 삼지 마세요'다. 조사에서 AI와의 대화를 바탕으로 자신을 우울증·불안장애 등 특정 정신질환으로 판단하거나 AI의 답변을 의학적 진단처럼 받아들인 경험은 14.6%였다. 반면 AI가 제공한 정신건강 정보를 전문가나 공식 자료를 통해 확인한 비율은 11.9%에 그쳤다. 이에 따라 AI의 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 받아들여서는 안 되며, 관련 정보는 학회나 정부기관 등 검증된 자료 또는 전문가를 통해 다시 확인해야 한다고 복지부는 강조했다.

세 번째 원칙은 'AI와 거리를 두고, 사람에게 이야기해 주세요'다. 특히 정신건강 목적으로 AI를 사용하는 사람일수록 과의존 위험이 높았다. 전체 응답자 가운데 '현실의 일에 집중하려고 해도 AI와 대화를 이어간다'는 응답은 16.3%였지만, 정신건강을 목적으로 이용한 응답자 중에서는 23.4%로 높게 나타났다. 중요한 결정을 AI 조언만으로 내린 비율도 전체 응답자 중에서는 10.6%, 정신건강 목적 이용자의 경우 17.8%로 상승했다.

정부는 특히 청소년 보호를 위해 별도의 지침도 마련했다. 15~18세 청소년 가운데 스스로 AI에 의존적이라고 답한 비율은 51.7%로 전체 연령대 가운데 가장 높았다. 이에 'AI 답변을 그대로 따르지 않고 자신의 상황을 먼저 살피기', '개인정보를 알려주지 않기', 'AI 캐릭터를 실제 친구나 연인처럼 여기고 있지 않은지 점검하기' 등을 권고했다.

보호자에게는 AI 이용을 무조건 금지하기보다 자녀가 무엇을 위해 어떻게 사용하는지 먼저 이해하고 함께 이용 규칙을 정하도록 했다. 청소년의 83.1%는 보호자가 자신의 AI 이용 사실을 알고 있다고 답했지만, AI 이용과 관련한 규칙을 보호자와 함께 정한 경우는 2.5%에 불과했다.

이번 조사에서 생성형 AI 이용과 관련한 정부 역할이 필요하다는 응답은 86.9%였다. 특히 'AI 정신건강 가이드라인 수립 및 법·제도 정비'가 필요하다는 응답은 68.7%에 달했다. 복지부는 향후 교육 현장과 임상 현장에서 활용할 수 있는 AI 이용 교육 프로그램을 마련하고, 내년에는 중증 정신질환자를 포함한 고위험군을 위한 맞춤형 가이드라인도 마련할 계획이다.

이선영 복지부 정신건강정책관은 "생성형 AI는 정보와 정서적 도움을 얻는 새로운 수단으로 활용될 수 있지만 친절하고 확신에 찬 답변이 항상 정확성이나 안전성을 보장하지 않는다"고 지적했다. 최준호 대한신경정신의학회 이사장은 "AI는 전문적인 평가와 치료를 대신할 수는 없는 만큼 필요한 경우 의료진의 도움을 적기에 받는 것이 중요하다"고 강조했다.

조인경 기자 ikjo@asiae.co.kr