국민 10명 중 7명 "공공기관 AI 도입, 충분한 검증 과정 필요"

피앰아이, 생성형AI 사용자 1000명 조사
응답자 63.8% "AI 성별 편향 필요"
신체·안전 직결 분야일수록 사전점검 원해

국민 10명 중 7명은 공공기관이 인공지능(AI)을 도입할 때 시간이 걸리더라도 충분한 검증을 거쳐야 한다고 생각하는 것으로 나타났다.

리서치·데이터 인텔리전스 기업 피앰아이는 만 20~59세 생성형 AI 사용 경험자 1000명을 대상으로 'AI 공정성과 성별 편향에 관한 인식 조사'를 실시했다고 5일 밝혔다. AI 성별 편향이란 AI가 학습한 데이터나 알고리즘 설계 과정에서 특정 성별에 불리하거나 유리한 결과를 반복적으로 산출하는 현상을 말한다. 이번 조사는 지난달 24~25일 온라인 설문조사 방식으로 진행됐다.

조사 결과를 보면, 국민 다수가 AI의 공공 영역 도입과 성별 편향 문제에 신중한 접근을 요구하고 있는 것으로 나타났다. 응답자의 68.1%는 공공기관의 AI 도입 방식에 대해 '시간이 걸리더라도 충분한 검증을 거쳐야 한다'고 답했다. '편의성과 효율성을 위해 빠른 도입이 중요하다'는 응답(20.7%)의 세 배를 웃도는 수치다.

성별로는 여성(72.6%)이 남성(63.6%)보다 '검증 우선' 응답이 9%포인트 높았고, 연령이 높을수록 신중론에 무게가 실렸다. 50대의 검증 우선 응답은 75.4%로 20대(60.6%)보다 높았다.

AI 활용 경험이 쌓일수록 효율성에 대한 기대치도 함께 높아지는 경향이 확인됐다. AI를 업무에 매일 활용하는 '헤비 유저' 집단에서는 빠른 도입에 대한 수용도(35.8%)가 라이트 유저(17.4%)의 두 배 수준으로 나타났다.

아울러 응답자의 63.8%는 '한국 사회에 맞는 AI 성별 편향 점검 기준이 별도로 필요하다'고 답했다. 한국형 점검 기준이란, 해외 AI 규제·평가 체계를 그대로 들여오는 것이 아니라, 한국어 표현 방식과 국내 성역할 인식, 노동시장 관행 등 한국 사회 고유의 맥락을 반영해 편향 여부를 판단할 수 있는 기준을 마련해야 한다는 의미다.

남성(62.0%)과 여성(65.6%) 모두 한국형 AI 성별 편향 점검 기준의 필요성에 대해 60%를 웃도는 동의율을 보였다. 연령대별로는 50대(72.8%)의 동의율이 가장 높았고 30대(57.0%)가 가장 낮아 세대 간 온도 차가 있었다.

AI 도입 전 정부의 사전 점검이 필요하다고 본 분야는 '범죄 예방 및 치안'(남성 50.0%, 여성 47.5%)과 '의료 진단'(남녀 각 44.0%)이 성별 차이 없이 나란히 최상위권에 올랐다. 두 분야 모두 AI 판단 오류가 개인의 신체·안전과 직결된다는 공통점이 있다.

AI의 공정성을 확보하기 위해 가장 중요한 요소로는 'AI 판단 근거를 설명해주는 기능(21.6%)'이 1위로 꼽혔고, '사람이 최종 검토하는 절차(17.6%)'가 뒤를 이었다. AI가 어떤 근거로 판단을 내렸는지 투명하게 공개하는 장치와 그 판단을 사람이 한 번 더 확인하는 이중 안전장치에 대한 수요가 동시에 확인된 셈이다.

조민희 피앰아이 대표는 "국민들이 기대하는 것은 기술 도입 속도 그 자체가 아니라 한국 사회의 맥락을 반영한 신뢰할 수 있는 검증 절차와 설명 가능성이라는 점을 보여준다"며 "일괄적인 규제보다는 정교하게 설계된 단계별 정책이 필요할 것으로 보인다"고 말했다.

김보경 기자 bkly477@asiae.co.kr