트럼프, AI 기업과 안전 합의…정부 규제 대신 자율통제

안전한 인공지능(AI)을 둘러싼 도널드 트럼프 미국 대통령과 AI 기업의 최고경영자(CEO)들 간의 공방이 자율규제 원칙 합의로 일단락됐다. 트럼프 대통령은 연방정부 차원의 새로운 규제 도입에 선을 그었으며, 기존 법률과 업계의 자율규제로 충분히 대응할 수 있다는 입장을 재확인했다.

AP연합뉴스

트럼프 대통령은 29일(현지시간) 주요 AI·빅테크 기업 경영진 20여 명과 오찬을 가진 뒤 "강력한 자율규제가 필요하다는 인식이 있다. 법무부와 연방수사국(FBI) 등을 통한 규제는 이미 존재하고, 이보다 자율규제가 매우 중요하다"고 밝혔다.

최근 개발자들과 각국 지도자들은 AI가 통제를 벗어나 잇따라 보안 사고를 일으키자, 안전 기준 마련의 필요성을 강조하고 나섰다. 그러나 트럼프 대통령은 AI 안전에 문제가 없다는 입장을 고수하며, 중국과의 경쟁 우위를 위해 AI 개발속도를 낮추면 안 된다며 이날 자리를 마련했다.

트럼프 대통령과 주요 AI 기업들은 이날 AI 안전을 위한 자발적 약속을 담은 합의문도 마련했다. 이 자리에는 앤스로픽의 다리오 아모데이 최고경영자(CEO)와 엔비디아의 젠슨 황 CEO를 비롯해, 메타의 마크 저커버그 CEO, 팔란티어의 알렉스 카프 CEO, 오픈AI의 그레그 브록먼 사장 등이 참석했다.

트럼프 대통령은 행사 후 기자들과 만나 AI 산업 전반을 살펴볼 약 10명 규모의 위원회를 구성하는 방안도 제시했다. 다만 위원회의 역할이나 구성 등 구체적인 내용은 밝히지 않았다.

경영진들은 대체로 정부 규제를 최소화하고 AI 기업의 자율규제에 맡기려는 트럼프 대통령의 방침을 지지했다. 젠슨 황 엔비디아 CEO는 "혁신과 기술, 안전은 서로 충돌하지 않는다"며 "AI 역량을 강화하기 위해 새로운 기술을 개발해야 한다. 동시에 AI의 안전성을 높이기 위한 새로운 기술도 개발하고 있다"고 강조했다.

반면 아모데이 CEO는 AI 안전 문제는 여전히 해결해야 할 과제로 남아 있다고 밝혔다. 그는 "이 기술에는 분명한 위험이 있다"며 "우리가 제대로 대응한다면 경쟁에서 승리하면서도 안전을 지킬 수 있다. 이를 위해 모두가 함께 노력해야 한다"고 말했다.

도널드 트럼프 미국 대통령 트루스소셜

또한 트럼프 대통령은 자신의 사회관계망서비스(SNS)인 트루스소셜에 앤스로픽과 오픈AI, 엔비디아, 메타, xAI, 구글의 경영진이 서명한 '백악관 초지능 합의(White House Accord on Super Intelligence)'를 공개했다. 합의문에는 AI 모델의 안전성을 점검하기 위한 4단계 통제·감사 체계를 구축하는 내용이 담겼다.

우선 기업들은 사이버보안과 생물안보, 화학적 위협 등의 분야에서 AI 모델의 역량과 정렬 상태를 학습·배포 과정에서 점검하고 모델이 기술 시스템을 의도하지 않은 방식으로 해킹하거나 시스템에 접근하지 않도록 하는 내부 통제 체계를 구축하기로 했다. 내부 전담팀은 이러한 통제·모니터링·탐지 체계가 제대로 작동하는지 점검하고 문제가 발생하면 이를 해결하는 역할을 맡는다.

독립적인 외부 감사인 또는 평가기관도 통제·모니터링·탐지 체계가 의도한 대로 작동하는지 검증한다. 이와 함께 각 기업은 이사회 산하에 독립위원회를 두고 내부 전담팀과 내·외부 감사기관의 보고를 토대로 확인된 문제의 해결 여부를 감독하기로 했다. 참여 기업들은 정기적으로 만나 AI 시스템의 안전성을 높이기 위한 기준과 모범 사례도 마련할 예정이다. 합의문은 향후 이 같은 통제·감사 체계를 법률이나 규제로 명문화할 가능성도 열어뒀다.

유현석 기자 guspower@asiae.co.kr

기자가 작성하고 AI가 부분 보조한 기사입니다.