방금 통화한 사람이 알고 보니 AI였다면

AI, 실제 사람과 똑같은 목소리에 추임새까지
식당 예약접수는 물론 직접 예약하기도 가능
나중에 알게 될 경우 불쾌감·공포감 가능성
상대방이 AI임을 고지하는 법안 국내 발의

식당 예약 전화를 끝냈는데, 방금 전 나와 대화를 주고받은 사람이 인공지능(AI)이라는 사실을 뒤늦게 알게 됐다면, 사람들은 놀라움과 동시에 두려움을 느낄 가능성이 크다. 그 반대의 경우도 마찬가지다. 식당 종업원인 나에게 방금 전화를 걸어와, 예약을 마친 사람이 알고 보니 AI였다면.

AI의 목소리, 대화 능력은 이미 인간과 매우 유사한 수준에 도달했다. 콜센터는 점차 AI로 대체될 것으로 예상된다. 이제는 AI가 사람에게 전화를 걸기도 한다.

상대방이 사람인 줄 알고 대화를 하다가 나중에 사람이 아닌 것으로 밝혀질 경우, 실제 인간은 심리적 거부감과 불쾌감을 느끼기 쉽다. 서비스 제공 주체에 대한 신뢰에 부정적인 영향을 미칠 우려도 있다. 이에 해당서비스가 AI로 이뤄짐을 미리 고지하는 방안이 국내외에서 검토되고 있다.

구글은 지난 5월 구글 개발자회의에서 인간을 대신해 인간처럼 전화 통화를 할 수 있는 AI 서비스 '구글 듀플렉스(Google Duplex)'를 공개했다.

구글 최고경영자(CEO) 순다 피차이(Sundar Pichai)는 듀플렉스가 사람을 대신해서 미용실에 전화를 걸어 서비스를 예약하고, 레스토랑에 전화를 걸어 단체 저녁 식사를 예약을 문의하는 등의 실제 녹음 데모를 공개했다.

듀플렉스의 목소리는 AI로 만들어진 목소리라는 것을 믿기 어려울 정도였다. 인간의 목소리 톤 및 말투와 거의 흡사해서 현장의 개발자들은 놀라움을 감추지 못했다.

단순히 예약을 요청하고 확인하는 대화 외에도, 응대자가 "기다리라"는 말에 알겠다는 영어식 감탄사인 '으흠(Mmm-hmm)'이라고 반응하거나, 예약이 불가하다는 말에 "평소에 얼마나 기다려야 하냐"는 적절한 추가 질문을 하기도 했다. 기존의 챗봇과 같이 단순 반응형 AI가 아닌, 보다 진보된 능동형의 AI 형태였다. 전화를 받은 응대자는 통화하고 있는 상대가 로봇이라는 사실을 전혀 눈치채지 못했다.

듀플렉스는 즉시 윤리적 문제와 맞닥뜨렸다. 일부 참석자들이 "듀플렉스가 너무 인간과 흡사하여 듀플렉스와 통화하는 수신인(사람)이 상대방이 사람인지 로봇인지 파악할 수 없다"면서 "윤리적 이슈를 피할 수 없을 것"이라고 비판하고 나선 것이다.

듀플렉스에 대한 비판의 목소리와 규제에 대한 우려가 높아지자 구글은 "이번 여름에 출시될 듀플렉스는 실행하기 이전에, 적절한 방법으로 듀플렉스의 정체와 녹음에 대해 상대방에게 고지할 것"이라고 진화에 나섰다.

국내에서는 AI를 이용한 음성서비스의 경우, AI임을 명확히 표시하도록 하는 법안이 발의된다.

1일 자유한국당 송희경 의원은 "대화형정보처리시스템, 이른바 챗봇(chatbot)을 이용한 서비스를 제공하는 경우 이를 명확하게 표시하도록 하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'을 대표발의했다"고 밝혔다.

챗봇은 인간과 대화하는 방식으로 정보를 처리하는 컴퓨터 시스템을 말한다. 이용자가 문자나 음성으로 대화체의 질문을 입력하면 챗봇이 적합한 결과를 문자나 음성으로 되돌려 준다. 챗봇시스템은 검색엔진 등 기존의 단방향적 정보 제공방식과는 달리, 이용자와 챗봇이 질문과 답변을 주고 받는 과정에서 이용자가 원하는 정확한 정보에 도달하도록 돕는다.

이미 국내외에서는 정보 제공?민원처리뿐만 아니라 일정관리·전자상거래 등 다양한 분야에서 챗봇이 활용되고 있다. 특히 AI와 음성인식 기술 등 다양한 융합기술을 접목하거나, 단순 정보제공 기능을 뛰어 넘어 인간의 감정까지 인지, 분석하는 챗봇 시스템이 등장 하는 등, 관련 기술이 고도화되며 서비스도 다양화 되고 있다.

그러나 부작용도 만만치 않다. 정보통신서비스 제공자가 해당 정보통신서비스가 챗봇을 이용한 서비스임을 이용자에게 알리지 않는 경우가 많아, 이용자가 대화의 상대방을 챗봇이 아닌 실제 사람으로 착각하는 등 소비자가 챗봇으로 인한 불쾌감이나 불편을 호소하는 경우가 적지 않기 때문이다.

송 의원은 "AI 기술 등 융합 기술을 접목한 챗봇 시스템의 기술이 지속적으로 고도화 되면서 이용자의 정보접근성을 높여주는 서비스가 잇따라 등장하고 있다"면서 "아직은 챗봇 서비스 산업이 도약기를 지나고 있는 만큼, 서비스의 신뢰성을 확보 할 수 있는 최소한의 제도적 장치를 마련하고자 법안을 발의했다"고 말했다.

다만 AI를 활용한 음성서비스가 궁극적으로 인간의 복지에 기여할 것이라는 예상도 적지 않다.

구글은 "여전히 미국 자영업자들의 60%는 온라인 예약 시스템을 갖추고 있지 못하다"면서 "듀플렉스가 이를 해결할 수 있는 대안이 될 것"이라고 말했다. 구글은 "듀플렉스가 사람을 대신해서 전화를 걸어주므로 시간을 절약할 수 있고, 특히 청각 장애나 외국인에게 도움이 될 것"이라고 말했다.

KT경제경영연구소는 "이번에 시연된 듀플렉스는 헤어샵·레스토랑 예약에 국한되어 있으나 듀플렉스가 실생활에서 적용 가능한 분야는 무궁무진하며, 특히 응급 상황에서 활용도가 높을 것"이라고 예상했다.

가령 듀플렉스가 자동차에 적용될 경우, 에어백이 터지는 등 자동차 사고가 난 상황을 파악하고 자동으로 구급차에 전화를 걸어 구급차를 부를 수 있다. 또한 사용자가 뇌졸증의 전조 증상인 언어에 문제가 생기면 응급 서비스에 자동 전화를 연결하여 도움을 요청할 수 있을 것이라고 내다봤다.

김동표 기자 letmein@asiae.co.kr