챗GPT 사용자 보호 강화…자해 위험 감지되면 지인에 알림

'신뢰하는 사람'에 문자 등 알림
대화 원문 등은 제공하지 않아

챗GPT와의 대화에서 중대한 자해 위험 신호가 감지될 경우 가까운 사람에게 이를 알릴 수 있는 기능이 도입된다.

10일 오픈AI는 챗GPT에 '신뢰하는 사람'(Trusted Contact) 기능을 도입한다고 밝혔다. 이 기능은 성인 사용자가 ▲가족 ▲친구 ▲보호자 등 신뢰하는 사람을 1명을 미리 등록해두면 챗GPT에서 심각한 자해 우려가 감지될 때 현실 세계의 도움과 연결할 수 있도록 지원한다. 사용자는 챗GPT 설정에서 신뢰하는 사람 1명을 등록할 수 있으며, 국내에서는 성인만 등록할 수 있다. 해당 기능은 챗GPT 자녀 보호 기능의 '안전 알림' 시스템에 기반해 구축했다.

사용자와의 대화에서 심각한 자해 우려가 있는 표현을 감지하면 이 시스템은 챗GPT가 신뢰하는 사람에게 알림이 전달될 가능성을 안내하고 사용자가 직접 연락할 수 있도록 대화 예시를 제시한다. 이후 전문 교육을 받은 검토 인력이 상황을 재검토하고, 실제 안전 우려가 있다고 판단하면 ▲이메일 ▲문자메시지 ▲앱 알림 등의 형태로 신뢰하는 사람에게 알림이 전달된다. 다만 알림에는 대화 원문 등은 포함되지 않는다.

사용자는 언제든 '신뢰하는 사람'을 수정하거나 삭제할 수 있고, 등록된 연락처도 언제든 연결을 해제할 수 있다. 상대방도 언제든 삭제를 요청할 수 있다.

오픈AI는 자사의 글로벌 전문가 네트워크와 웰빙·AI 전문가 자문위원회 등의 자문을 바탕으로 설계했다. 아울러 미국심리학회(APA)를 비롯한 외부 전문 기관과도 협력했다고 밝혔다.

고기석 오픈AI 정책 총괄은 사람들은 챗GPT를 통해 문제를 해결하고 개인적 고민을 돌아보기도 하는데 때로는 사용자가 힘든 순간을 겪고 있을 수 있다"며 "AI 시스템은 이러한 상황에서 현실 세계의 도움과 연결될 수 있도록 설계돼야 한다는 취지에서 이 기능이 도입됐다"라고 설명했다.

한편 오픈AI는 지난달 24일 생명 존중 문화를 확산하고 자살 예방에 앞장서는 '2026 천명지킴 프로젝트' 천명수호처로 선정됐다. 이 프로젝트는 국무조정실 범정부 생명지킴추진본부가 올해 자살사망자 1000명 감축을 목표로 주도하는 사업니다.

구나리 기자 forsythia26@asiae.co.kr