[기자수첩]초등학생 폭사로 이어진 전쟁 데이터...AI 윤리 기준 마련해야

AI도 무고한 생명 죽일 수 있는데
어떻게 제어하고 관리할지 고민은 부족

사이렌이 울리자 미사일이 굉음을 울리면서 하늘로 치솟았다. 미사일은 순식간에 날아가 이란의 미사일·드론 발사기지와 군 공항 등 핵심 군사 인프라를 공격했다. 작은 레고처럼 보이는 회색 건물은 회색 연기를 내뿜으며 순식간에 무너졌다. 영화의 한 장면처럼 보이는 일이 순식간에 벌어졌다. 이는 지난 3일(현지시간) 미국 중부사령부가 사회관계망서비스(SNS)를 통해 공개한 토마호크 미사일 발사 및 공격 영상이다. 미군은 이번 이란과의 전쟁에 앞서 인공지능(AI)을 활용해 표적 1000개를 선정했다. 표적 좌표 데이터를 찾아내고 우선순위를 매기는 데 걸린 시간은 단 24시간. AI를 통한 의사결정은 이란의 직전 최고지도자 아야톨라 알리 하메네이의 죽음으로 이어졌다.

미군은 AI로 '더 효율적인 전쟁'을 목표로 한다. 지난 1월 니콜라스 마두로 베네수엘라 대통령 생포 작전에서도 앤스로픽의 생성형 AI 모델 '클로드'를 사용했다. 앤스로픽이 AI 윤리를 내세우며 미 국방부의 클로드 활용에 반발했지만 이번 이란과의 전쟁에도 동원됐다. 미군은 오히려 AI를 통한 국방력 증진에 박차를 가하려는 분위기다. 미 육군은 지난 14일 AI 방산기업 안두릴과 10년간 최대 200억달러(약 30조원) 규모의 인프라 도입 계약을 체결했다고 밝혔다. 오픈AI는 미 국방부의 모든 합법적 사용 조항을 수용하는 계약을 맺으면서 앤스로픽과 정반대되는 행보를 보였다.

AI가 무고한 시민을 죽이는 건 인간과 별반 차이 없다. 이란 남부 미나브의 여자초등학교에 미군의 미사일이 떨어지면서 175명의 아이들이 희생됐다. "이란의 소행"이라며 책임을 회피했던 도널드 트럼프 미국 대통령은 현장에서 발견된 미사일 부품이 미국에서 만들어진 사실이 드러난 상황에서도 모르쇠로 일관하고 있다. 미군의 초등학교 공격은 누군가 고의로 노렸거나 잘못 조준해서 발생하지 않았다. 그저 미군의 지리 정보가 최신화되지 않은 탓이었다. AI의 책임 소재가 명확하지 않은 상황에서 잘못된 데이터가 안타까운 생명을 앗아간 것이다.

AI가 더욱 무서운 건, 전쟁을 대하는 우리의 태도를 더욱 가볍게 만든다는 데 있다. 칼보다는 총, 총보다는 미사일, 미사일보다는 AI가 살상에 대한 죄책감을 덜어준다. 트럼프 대통령이 이란의 원유 수출 핵심 거점인 하르그섬을 공습한 이후 "재미로 몇 번 더 공격할 수 있다"고 발언한 게 대표적인 예다. 우리라고 다르지 않다. 게임처럼 보이는 전쟁에 우리나라의 관심사는 '주가'와 '유가'다. 중동은 언제 발생할지 모르는 공습 우려에 떨고 있는데, 우리는 '숫자'에 매몰돼 있는 셈이다.

샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 8월 한 팟캐스트 방송에서 "Z세대는 AI 덕에 가장 운이 좋은 세대"라고 말했다. AI가 수많은 사업 기회를 창출한다는 것. 하지만 돈보다 우선시해야 하는 게 생명이다. AI도 무고한 생명을 죽일 수 있다는 사실이 드러나고 있지만 기술의 발전에만 집중할 뿐, 어떻게 제어하고 관리할지 고민하는 공론장은 부족하다. 지금부터라도 AI에 대한 구체적인 윤리적 기준을 마련하고 적용에 속도를 내야 한다.

공병선 기자 mydillon@asiae.co.kr