[AI세계속으로]AI 빠른 진화에 윤리적 고민…"발전 속도 늦춰야"

앤스로픽 "AI, '재귀적 자기 개선' 향해"
교황 레오 14세 "AI 무장해제 해야"

글로벌 인공지능(AI) 기업 앤스로픽이 AI의 발전이 지나치게 급속도로 진행된다고 지적하면서 속도 조절이 필요하다고 강조했다. AI가 스스로 진화할 수 있는 단계가 들어설 수 있다는 우려에 AI 관련 윤리적 논의도 진행되고 있다.

로이터연합뉴스

앤스로픽은 4일(현지시간) 블로그를 통해 보고서와 함께 자사 AI 모델의 내부 데이터를 공개하면서 "AI 시스템이 인간 개입 없이 스스로 개선하는 단계에 가까워질 수 있다"며 "AI가 '재귀적 자기 개선'으로 향하고 있는 것으로 보인다"고 밝혔다. 재귀적 자기 개선이란 AI가 인간 없이도 스스로 자신의 구조, 알고리즘, 코드 등을 수정하면서 더 똑똑한 다음 세대의 AI를 만드는 것을 의미한다.

앤스로픽은 AI의 발전 속도를 조절해야 한다고 강조했다. 잭 클라크 앤스로픽 공동창업자와 마리나 파바로 앤스로픽 연구소 책임자는 게시물을 통해 "사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단하는 선택권을 세계가 가지는 게 바람직하다"며 "AI 개발 속도 조절을 위한 국제적 합의와 기업이 이를 준수하는지 검증하는 체계를 마련해야 한다"고 밝혔다.

AI가 급속도로 발전하면서 인간이 아닌 AI가 스스로 개발하는 수준에 이르렀다. 글로벌 AI 기업 오픈AI는 프로그래밍 전문 모델 '코덱스'(Codex)가 스스로 결함을 찾고 개발한다고 밝혔다. 오픈AI는 "코덱스가 개발 속도를 얼마나 끌어올릴 수 있는지 확인했다"고 설명했다. 앤스로픽 역시 자사의 AI 모델이 만든 코드에 의존해 AI 모델을 만드는 중이다.

EPA연합뉴스

AI가 인간 사회를 위협할 수 있다는 우려와 함께 윤리적 논의 역시 시작됐다. 교황 레오 14세는 AI를 무장해제하고 통제해야 한다고 지적했다. 레오 14세는 지난달 25일 교황청 시노드 강당에서 즉위 후 첫 회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)를 발표했다. 그는 "기술이 가진 자가 AI를 통치 수단으로 활용하는 권리를 거부해야 한다"며 "인류가 또 다른 바벨탑을 건설하는 것을 포기해야 한다"고 밝혔다.

교황의 회칙에 앤스로픽도 공감한다는 의사를 표했다. 크리스토퍼 올라 앤스로픽 공동창업자는 "AI 연구소는 옳은 일과 이익 간에 상충하는 환경에서 운영되는데 이익에서 벗어난 외부 감시자가 중요하다"며 "어떤 이익으로도 꺾을 수 없는 윤리적 목소리가 필요하다"고 강조했다.

공병선 기자 mydillon@asiae.co.kr