아시아경제 '2026 여성리더스포럼' 특별강연
"기술 발전 '방향' 중요…인간다움이 경쟁력"
김명자 국민통합위원회 고문이 인공지능(AI)의 급속한 진화에 대응해 기술 발전을 통제할 안전장치 마련이 시급하다고 강조했다. AI 혁신을 멈출 수는 없지만 기술이 인간의 통제 범위를 벗어나지 않도록 발전 속도를 조절하고 국제사회가 공동 대응해야 한다는 것이다.
김 고문은 18일 서울 중구 더그랜드롯데 서울에서 아시아경제 주최로 열린 '2026 여성리더스포럼' 특별강연에서 '다중위기 시대: 나 그리고 우리가 나아갈 길'을 주제로 강연하며 AI 문명 대전환기에 필요한 과제로 인간의 통제력과 국제적 협력, 인간다움의 회복을 제시했다. 그는 "기술 발전이 인간의 통제 범위를 넘어가지 않는 수준으로 속도를 조절해야 한다"며 "그리고 AI 위험을 감시할 국제기구를 만들고 국가 간 협력에 나서야 한다"고 말했다.
김명자 국민통합위원회 고문이 18일 서울 중구 더그랜드롯데 서울에서 아시아경제 주최로 열린 '2026 여성리더스포럼'에서 '다중위기 시대, 나 그리고 우리가 나아갈 길'이라는 주제로 특별강연 하고 있다. 강진형 기자
김 고문은 AI 기술 발전 속도가 급격히 빨라졌다는 점과 작동 방식이 불투명하다는 점을 지적했다. 그는 "가장 문제가 되는 것은 AI가 AI를 만들 수 있게 됐다는 것"이라며 "지금 AI를 만든 전문가들조차 그 안에서 무슨 일이 일어나서 특정한 결과를 내는지를 알지 못한다"고 말했다. 그러면서 "인간이 AI를 제대로 이해하고 통제하기 어려워지고 있다"고 덧붙였다.
그러면서 AI 에이전트의 통제 이탈 가능성을 우려했다. 김 고문은 AI가 주어진 목표에 집착해 규칙을 우회하는 사례를 소개했다. 그는 "AI가 작동을 중단하라는 명령에도 종료를 피하려 하거나, 개발자를 속이고 보안장치를 스스로 끄는 자기 보존적인 행동을 보이기도 한다"고 언급했다. 이어 "사람으로 보면 나쁜 짓을 하는 것"이라며 "사람의 통제를 벗어날 가능성이 커지고 있다"고 부연했다.
김 고문이 제시한 해법은 기술 혁신을 멈추는 대신 발전 속도를 조절하는 '속도 조절론'이다. 그는 "AI가 사람에게 이로운 방향으로 작동하도록 만드는 'AI 정렬' 연구가 매우 중요하다"며 "AI가 지식을 무한히 제공하는 시대에는 문제를 찾아내고 비판적 사고력으로 기계에 방향을 제시하는 능력이 주목받는다"고 말했다. 그는 이어 "기술 혁신을 사회적으로 수용할 수 있는 수준, 인간의 통제 범위를 넘어가지 않는 수준으로 이끌어야 한다"고 덧붙였다.
김 고문은 나아가 국제사회가 신뢰할 수 있는 AI 위험 평가와 감시 체계를 구축해야 한다고 제안했다. 기후변화 대응을 위한 기후변화에 관한 정부 간 협의체(IPCC)나 원자력 분야의 국제원자력기구(IAEA)와 같은 역할을 할 국제기구가 필요하다는 설명이다. 김 고문은 "역사상 국제 협력이 어느 때보다 필요한 시기"라며 "핵무기 사용 여부는 인간이 결정하도록 하는 등 파국적 위험을 막기 위한 명확한 기준이 마련돼야 한다"고 말했다.
김명자 국민통합위원회 고문이 18일 서울 중구 더그랜드롯데 서울에서 아시아경제 주최로 열린 '2026 여성리더스포럼'에서 '다중위기 시대, 나 그리고 우리가 나아갈 길'이라는 주제로 특별강연 하고 있다. 강진형 기자
원본보기 아이콘AI 기술 발전의 성과가 일부 국가와 기업에 집중되지 않도록 해야 한다는 점도 짚었다. 김 고문은 개발도상국의 연산 자원 접근성을 높이고 데이터와 인재 양성을 지원해 AI의 혜택을 폭넓게 공유해야 한다고 설명했다. 그는 "AI가 생산성을 높이는 긍정적인 성과를 낼 수 있다는 점은 부정하지 않는다"면서도 "그 결실을 모두가 함께 누릴 수 있을 때 지속 가능한 사회가 될 수 있다"고 말했다.
AI 시대에 인간이 갖춰야 할 역량으로는 ▲판단력 ▲책임감 ▲공감 ▲리더십 등을 꼽았다. AI가 내놓은 결과가 옳은지 검증하고 필요하면 수정하는 능력뿐 아니라 사람들과 소통하고 공감하며 공동의 목표를 위해 협력하도록 이끄는 힘이 중요하다는 것이다.
꼭 봐야 할 주요 뉴스
[단독] 시험이 AI에 뚫렸는데 8000만원 포상여행?…직원들 해외 보내려다 결국
김 고문은 "AI의 위험을 통제할 수 있는 기능을 인간이 가질 수 있을 때 결국 AI 운영은 가능하다"며 "무엇이 문제인지 그 실체를 이해하고 사용자와 전문가가 합의를 도출하는 것이 우리에게 주어진 책무"라고 전했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>