[영역:young域]'챗GPT가 그렇다던데'에 숨겨진 기묘한 이야기
편향·아첨 현상 노출된 AI 정보환경
'질문하는 인간' 길러내는 교육 절실
효율성 넘어 '끝없는 의구심' 가져야
교육 현장에서 일하는 또래 교사들이 최근 몇 년 사이 공통적으로 목격하는 장면이 있다고 한다. 학생들이 그럴듯하면서도 어딘가 어설픈 주장이나 출처가 불분명한 자료를 가져오는 경우가 빈번해졌는데, 관련 맥락을 물으면 대체로 이렇게 답한다는 것이다. "챗GPT가 그렇다던데요." "클로드가 이게 맞다고 알려줬어요."
학교뿐 아니라 직장과 일상 가릴 것 없이 어떤 대화에서든 생성형 인공지능(AI)이 불쑥 끼어든다. 정보 생태계가 검색 엔진에서 생성형 AI로 옮아가고 있음을 보여주는 자연스러운 현상이다. 그러나 우리가 편히 인용하고 언급하는 그 주체, AI가 구성하고 보여주는 세계의 메커니즘을 우리는 얼마만큼 제대로 이해하고 있을까.
당연하게도 AI는 있는 그대로의 세계를 보여주지 않는다. 과거 레거시 미디어가 정보를 편집하고 재구성해 보여주는 데서 발휘해왔던 권력을 이제는 AI가 가지고 있다. 서구 중심의 데이터 학습이 곧 가치와 문화의 표준으로 연결되고, 반대로 충분히 학습되지 않은 지역의 맥락과 사례는 쉽게 누락되거나 오류로 인식되기도 한다. 또한 AI의 메커니즘에는 소수 빅테크(대형 정보기술 기업) 세력의 사상과 지향성이 흐른다. 가치중립성을 표방하지만 실제로는 극단적 능력주의와 기술만능주의를 지향하는 빅테크 핵심 세력의 사상에 기반해 설계된 프로덕트가 그로부터 과연 얼마만큼 독립적일 수 있을까.
여기에 서비스로서의 AI가 가진 달콤하고 치명적인 위험성, '시코펀시(Sycophancy·아첨)'가 더해진다. 서비스 초기에는 확인되지 않은 가짜 정보나 오류를 엮어 출력하는 '할루시네이션(Hallucination·환각)' 현상이 문제였다면, 기술이 발전한 요즘은 사용자의 관점과 주장의 오류에 관계없이 무조건적으로 동조하는 시코펀시, 즉 아첨하는 현상의 문제가 발견된다. 이런 정보 환경 속에서 'AI가 그렇다더라'라며 쉽게 수용하는 말은 사실 '나는 이 모든 위험성과 숨은 권력의 의도에 완전히 무방비 상태로 노출돼 있다'는 선언과 다를 바 없다.
그렇다면 이제 무엇을 어떻게 해야 할까. 쏟아지는 고민 가운데 '질문하는 인간'을 길러내는 교육의 시급성을 가장 먼저 외치고 싶다. 단지 질문을 잘하는 것과는 다르다. 주어진 질서와 현상에 순응하는 인간이 아니라, 눈앞의 세계가 최선인지 끊임없이 의구심을 던지고 질문하며 그 너머를 상상할 수 있는 인간, 생산성과 효율성이라는 기계적 관점에 갇혀 스스로를 착취하는 대신, 자신의 비효율성을 견디고 오류와 모순을 점검할 수 있으면서 마찬가지의 태도로 세상을 바라볼 수 있는 인간.
꼭 봐야 할 주요 뉴스
"엄마"라 부르더니 1.8억원 긁었다…'떴다방'의 진화[친절한 약탈자]①
나는 스스로가, 또한 나의 동료 시민들이 이미 다가온 초지능 시대에 이런 인간으로 함께 살아남을 수 있길 바란다. 우리에게 주어진 최후의 주체성과 판단의 권한을 무기력하게 위임하거나 내려놓지 않고 견고히 지켜나갈 수 있길 희망한다. 지금 우리 교육공동체는, 나아가 국가공동체는 이런 역량을 충분히 길러줄 시간과 계기를 보장하고 있는가. 지금의 교육 시스템은 취업 시장의 맞춤형 인재를 넘어 어떤 '시민들'을 발명하고 있는가. AI를 두고 그저 더 빨리, 더 많이를 외치기 전에 반드시 함께 답해야 할 질문이다.
양소희 정치싱크탱크 밸리드 공동대표
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>