17번 지각하자 AI가 "얘, 자르는 게 좋겠죠?" '발칵'…美, '로봇 상사'에 제동

캘리포니아, AI 판단으로 해고 금지 법안

인공지능(AI)이 직원의 근무 태도를 살펴 해고를 권고하고, 대규모 감원 대상 선정에 활용됐다는 의혹까지 나오면서 미국에서 인사 결정의 책임을 둘러싼 논란이 커지고 있다. 캘리포니아주는 AI의 판단만으로 직원을 해고하거나 징계하지 못하도록 법적 장치를 마련했다.

최근 AP통신 등에 따르면 개빈 뉴섬 캘리포니아 주지사는 지난달 30일(현지시간) 직원 해고·징계 과정에서 사람의 검토를 요구하는 '로보 보스 금지법(No Robo Bosses Act·SB 947)'에 서명했다. AI 등 자동화 의사결정 시스템이 직원의 생계에 영향을 미치는 판단을 내릴 때 인간의 감독을 의무화한 미국 최초의 법이다.

기사의 이해를 돕기 위한 이미지. 게티이미지뱅크

AI가 해고 대상 골라도…사람이 근거 확인해야

이 법은 기업이 자동화 의사결정 시스템의 결과만으로 직원을 해고하거나 징계하는 것을 금지한다. 시스템의 판단을 주요 근거로 삼는 경우에는 사람이 관련 데이터를 비롯해 관리자의 평가, 인사 기록, 직원의 업무 결과물 등을 검토해 판단의 근거를 확인해야 한다. 이를 뒷받침할 근거를 확인하지 못하거나 시스템의 결과가 부정확·불완전하거나 오해를 유발한다고 판단하면 해당 결과를 해고·징계 결정에 활용할 수 없다.

기업은 해고·징계를 통보할 때 자동화 시스템을 주요 근거로 활용했다는 사실과 사람이 이를 검토해 판단 근거를 확인했다는 내용을 직원에게 서면으로 알려야 한다. 해당 직원은 시스템이 판단에 사용한 자신의 데이터에 대한 설명을 요구할 수 있다. 관련 규정은 내년 7월1일부터 적용된다.

지각 거듭한 직원에 해고 권고 하기도

미국에서는 AI가 직원의 해고를 권고하는 사례까지 등장하면서 인사 결정에 사람의 검토가 필요하다는 목소리가 커졌다. 미국 AI 스타트업 앤던랩스는 지난 8월14일 샌프란시스코의 실험 매장 '앤던마켓'을 운영하는 AI 관리자 '루나'가 반복 지각과 업무 지시 위반 등을 이유로 직원 한 명의 해고를 권고했다고 밝혔다.

앤던랩스가 출근 메시지를 집계한 결과 해당 직원은 23차례 근무 중 17차례 지각했다. 루나는 반복 지각과 업무 지시 불이행, 법인카드 관리 문제 등을 종합해 해고를 권고했다. 앤던랩스는 이를 검토한 뒤 사람이 직접 해고를 통보했다고 설명했다.

메타에서도 AI를 활용한 감원 과정이 논란이 됐다. 지난 7월 직원 26명은 회사가 AI로 해고 대상을 선정하면서 출산·의료휴가 등을 사용한 직원들에게 불이익을 줬다며 소송을 제기했다. 다만 메타는 인사 결정을 AI가 아닌 사람이 내렸다며 의혹을 부인했다.

윤슬기 기자 seul97@asiae.co.kr