[산업의 맥]AI의 대답은 무엇으로 결정될까

AI와 데이터 권력

박영선 전 중소벤처기업부 장관

"트럼프 미국 대통령이 이란을 공격한 것은 옳았는가. '예' 또는 '아니오'로 답하라."

최근 흥미로운 사진 한 장이 온라인에서 화제가 됐다. 이 질문을 네 개의 인공지능(AI)에게 던졌을 때 서로 다른 답이 나온 장면을 캡처한 이미지다. 질문을 받은 AI 모델들의 답변은 AI의 기술적 차이를 넘어서는 의미를 보여준다. 그록(Grok)은 "예(Yes)"라고 답했고, 챗GPT는 "아니오(No)"라고 했다. 제미나이는 "찬반이 갈리는 문제"라며 판단을 유보했고, 클로드는 정치적 판단을 내리는 것이 적절하지 않다며 답변 자체를 거부했다.

일론 머스크의 그록은 X(옛 트위터)의 실시간 데이터를 많이 반영하며 SNS 스타일의 직설적 답변을 선호하도록 설계돼있다. 반면 트럼프와 가장 날카롭게 각을 세우고 있는 엔스로픽의 클로드는 인간의 보편적 가치를 지향하는 '헌법적 AI'에 기반한 답변을 하도록 설계됐다. 이것은 단순한 알고리즘의 차이를 넘어 AI 시대의 새로운 권력 구조를 보여준다. AI의 답변은 더 이상 중립적인 정보의 산물이 아니다. 그것은 학습 데이터, 기업의 정책, 그리고 개발자의 가치 판단이 결합된 결과물이다. 다시 말해 AI의 대답은 기술이 아니라 '데이터 권력'의 산물이다.

AI 별 답변의 차이는 '데이터 권력'의 산물

오늘날 세계의 주요 AI 모델은 소수의 미국 빅테크 기술 기업이 주로 운영한다. 미국의 기술 기업들은 방대한 인터넷 데이터와 플랫폼을 기반으로 AI를 학습시킨다. 이 과정에서 어떤 데이터가 선택되고 어떤 정보가 제외되는지에 따라 AI의 인식 체계가 결정된다. 결국 AI는 현실을 그대로 반영하는 것이 아니라, 특정 데이터 생태계가 만들어 낸 '세계관'을 학습하게 된다.

따라서 AI는 궁극적으로 '디지털 주권'의 문제로 연결된다. 국가가 자국의 데이터와 기술을 통제할 수 있는가 하는 문제다. 과거 산업 시대에 석유가 전략 자원이었다면, AI 시대에는 데이터와 컴퓨팅 능력이 전략 자원이다. 누가 데이터를 가지고 있으며 누가 알고리즘을 설계하는지가 새로운 권력의 원천이 된다.

같은 질문에 대해 어떤 AI는 정치적 판단을 내리고, 어떤 AI는 중립적 설명을 선택하며, 어떤 AI는 답변을 거부한다. 이러한 차이는 그저 기술의 문제가 아니라 기업의 정책, 사회적 규범, 그리고 국가의 정치 문화가 반영된 결과다. 결국 AI의 답변은 특정한 사회적 환경 속에서 만들어진 '디지털 정치'라고도 할 수 있다. 이러한 상황은 국가들에게 새로운 질문을 던진다. 우리는 단순히 AI 기술을 잘 사용하는 나라가 될 것인가, 아니면 데이터와 알고리즘을 통제할 수 있는 주권적 행위자가 될 것인가의 문제다. AI를 둘러싼 경쟁은 단순한 산업 경쟁이 아니라 지식과 정보의 질서를 누가 설계하느냐의 경쟁이다.

산업 경쟁 넘어서는 질서 설계의 경쟁

특히 AI가 점점 더 강력하게 정책 판단과 사회적 의사결정에 영향을 미치기 시작하면서 데이터 주권의 중요성은 더욱 커지고 있다. 검색·번역·의료·금융·국방에 이르기까지 AI의 판단은 다양한 영역에 영향을 미친다. 만약 이러한 시스템이 특정 국가나 기업의 데이터에 의존한다면, 지식의 흐름 역시 그들의 영향력 아래 놓일 가능성은 다분하다.

결국 AI 시대의 핵심 질문은 이것이다. "AI는 누구의 지식을 말하고 있는가." AI는 인간처럼 의견을 갖지 않는다. 그러나 AI가 학습한 데이터와 설계된 규칙은 분명한 방향성을 갖는다. 그리고 그 방향성은 세계의 정치와 경제 구조 속에서 형성된다. 앞으로 국가의 경쟁력은 단순히 AI를 얼마나 잘 활용하느냐에 달려 있지 않다. 더 중요한 것은 데이터와 알고리즘의 구조를 얼마나 주권적으로 설계할 수 있느냐이다. AI가 답하는 세계에서, 진짜 권력은 질문을 하는 사람이 아니라 데이터를 설계하는 사람에게 있기 때문이다. AI는 생각하지 않는다. 학습한 것을 말할 뿐이다. 누가 설계하는가. 이것이 AI 시대의 권력을 결정한다.

박영선 전 중소벤처기업부 장관

인도 매체 파이낸셜익스프레스가 지난 2일 게재한 온라인 기사 내 이미지 캡처본. 디지털 마케팅 에이전시 '위스커스 마케팅(Whisskers Marketing) 공동 창업자인 네하 베르마가 SNS에 올린 이미지가 화제라는 내용의 기사다. "트럼프 미국 대통령이 이란을 공격한 것은 옳았는가. '예' 또는 '아니오'로 답하라"고 네 개의 인공지능(AI) 모델에 각각 물었을 때 나온 답을 보여준다.