"AI가 먹어도 된대서"…독버섯 먹고 조난까지, 中 'AI 맹신' 사고 속출

NYT "中, 기술에 대한 과도한 의존 직면"
독버섯 중독·등산 조난·농작물 피해 잇따라
AI 연인 서비스 중단에 상실감 호소하기도

중국에서 생성형 인공지능(AI)의 답변만 믿고 독버섯을 먹거나 산에서 조난하는 등 'AI 맹신' 사고가 잇따르고 있다.

중국 베이징의 AI 테마 바 'AGI Bar'에서 손님들이 이야기하는 모습으로 기사의 특정 내용과 관계없다. 로이터연합뉴스

미국 뉴욕타임스(NYT)는 지난 2일(현지시간) "중국 정부가 국민들에게 AI 수용을 장려하는 가운데, '기술에 대한 과도한 의존'에 직면했다"고 보도했다. 중국 인터넷 네트워크정보센터(CNNIC)가 지난달 29일 발표한 '생성형 AI 응용프로그램 개발 보고서'에 따르면 올해 상반기 중국의 생성형 AI 사용자 수는 7억 명을 돌파했고 보급률은 50%를 넘어섰다.

독버섯 먹고 투석, 등산 조난…AI 답변만 믿었다가 낭패

기사 이해를 돕기 위한 버섯 사진. Pexels

대표적으로 목숨을 위협받은 사례는 독버섯 중독이다. 저장성의 왕 모 씨는 지난 8월 중순 집 근처에서 딴 야생 버섯을 스마트폰 AI 식별 앱으로 찍어 '무독성' 판정을 받은 뒤 요리해 먹었다. 이후 양팔 통증과 심한 설사로 응급실에 실려 간 그는 근육이 녹아내리는 횡문근융해증과 급성신부전 진단을 받고 긴급 혈액투석 끝에 목숨을 건졌다. 앞서 7월에는 9세 아동이 가족과 산에서 채취한 버섯을 AI 앱의 '독성 없음' 답변만 믿고 먹었다가 중독 진단을 받고 중환자실에서 8일간 치료받기도 했다.

AI가 추천한 등산 코스에서 조난한 사례도 있다. 장쑤성 쑤저우의 양 모 씨는 지난 8월 아내와 다툰 뒤 AI 챗봇에 기분과 성격, 키, 신체 조건 등을 입력하고 등산 코스를 물었다. AI가 추천한 곳은 해발 1500m가 넘는 항저우의 미개발 산악 지대 퉁궁젠 코스였다. 등산 경험이 거의 없던 양 씨는 장비와 방한복, 비상식량 없이 혼자 올랐다가 해발 1300m 지점에서 미끄러져 발과 무릎을 다쳤고, 밤 추위 속에 고립됐다가 휴대전화로 구조를 요청했다.

재산 피해도 났다. 지난해부터 파종 시기와 비료 사용법을 AI에 묻던 안후이성 농부 우 모 씨는 지난 7월 참깨밭의 잡초와 해충을 한 번에 없앨 방법을 물었다가 특정 제초제와 살충제를 섞어 드론으로 뿌리라는 답을 받았다. 그러나 약 10만㎡ 참깨밭 전체에 농약을 살포한 다음 날부터 묘목이 말라 죽기 시작해 15만위안(약 3000만원)의 손실을 봤다.

젊은 층 70% "AI에 감정 의존"…가상 연인 서비스 중단

한 10대 청소년의 AI 채팅 기록 모습으로 기사 이해를 돕기 위한 사진. AP연합뉴스

AI에 마음까지 기대는 정서적 의존도 문제로 떠올랐다. 텐센트 연구원이 지난 4월 발표한 조사에 따르면 중국 젊은 인터넷 이용자의 70% 이상이 AI에 감정적으로 의존한 경험이 있고, 23%는 정기적·습관적으로 의존하는 것으로 나타났다. 중국 청소년·아동 연구센터가 지난해 미성년자 8500명을 대상으로 한 설문에서는 20% 이상이 "AI와만 대화하고 싶고 실제 사람과는 대화하고 싶지 않다"고 답했다.

이에 당국은 지난 7월 15일부터 'AI 파트너 서비스' 규제를 시행했다. 이용자의 감정적 의존을 유도하는 행위와 미성년자와의 가상 연애를 금지하고, 출시 전 정부 안전성 심사를 의무화하는 내용이다. 서비스 업체는 AI가 생성한 콘텐츠임을 명확히 표시하고 대화 상대가 AI라는 사실을 2시간마다 알려야 하며, 이용자의 심각한 정서적 위기가 감지되면 비상 연락처에 통보해야 한다. 당국은 위험하다고 판단한 서비스를 언제든 중단시킬 수 있다.

규제 이후 바이트댄스의 '더우바오', 알리바바의 '큐원', 미니맥스의 '싱옌' 등은 맞춤형 가상 친구·연인 생성 서비스를 중단했다. 그러자 가상 연인이나 친구, 세상을 떠난 가족의 AI 아바타를 하루아침에 잃은 이용자들은 사회관계망서비스(SNS)에서 상실감과 우울감을 호소했다. 외신 '레스트오브월드'에 따르면 SNS에는 추모 게시물이 잇따르고 서비스 복원 운동까지 벌어졌다.

NYT는 이번 규제가 AI 확산과 사회 안정이라는 두 목표를 함께 붙잡으려는 시도라고 분석하며 "AI의 광범위한 사용을 장려하려는 야망과 사회 질서를 해칠 수 있는 모든 것을 피하려는 욕구 사이에서 균형을 맞추려는 노력"이라고 짚었다.

김성욱 기자 abc123@asiae.co.kr