AI 위험하다는 선두기업들, 시장 주도권 굳히기 셈법?

모델 개발 이어 안전 기준까지 주도
안전 표준이 후발 기업 진입장벽 될 수도
전문가들 "시장 우위 굳히기" 진단

인공지능(AI) 개발사들이 AI 위험 검증 평가 체계를 주도하는 것을 두고 안전을 앞세운 시장 지배력 강화 전략이라는 분석이 나온다. 선두기업들의 기술과 위험 대응 방식이 업계 표준으로 자리 잡아 후발주자의 진입장벽으로 작용할 수 있다는 것이다.

로이터연합뉴스

29일 업계에 따르면 오픈AI와 앤스로픽은 AI 개발 과정에서 모델의 위험성을 검증할 독립 평가체계 마련을 요구하고 있다. 외부 독립 평가자가 내부 시스템과 데이터에 접근해 AI 모델의 위험성과 안전조치를 검증하는 방안으로, 개발사가 감사 기준을 정하고 외부 평가기관을 선정한다.

이러한 움직임은 선두기업의 시장 지배력 강화로 이어질 수 있다. AP통신은 오픈AI와 앤스로픽의 안전성 강화 요구에 관해 "대중의 호감을 얻고 규제가 없는 시장에서 자신들만의 안전 프로토콜을 정하려는 것으로 보인다"고 분석했다. 기업공개(IPO)를 앞두고 투자자의 신뢰를 얻고 미국 중간선거에 영향을 미칠 수도 있다고 덧붙였다.

에이단 고메즈 코히어 최고경영자(CEO)는 "독립적인 AI 안전성 평가에는 찬성하지만, 누가 평가 기준을 만들고 평가자를 선정할 것인지가 문제"라며 "소수 선두기업이 규칙을 정하면 현재의 시장 우위가 후발 기업의 진입장벽으로 굳어질 수 있다"고 주장했다. 김명주 AI안전연구소장도 "기술 경쟁은 결국 표준과 인증으로 귀결된다"며 "프런티어 AI 개발에 이어 표준과 인증까지 주도하겠다는 것은 기술 패권을 확보하겠다는 의미"라고 말했다.

투자금과 자원 쏠림이 심해질 가능성도 제기된다. 해리슨 롤프스 피치북 선임 리서치 애널리스트는 "대형 AI 개발사들은 안전한 투자처로 자리매김해 투자금과 컴퓨팅 자원을 확보하는 반면, 소규모 경쟁사의 성장을 가로막을 수 있다"고 분석했다.

사이버보안 특화 모델을 둘러싼 개발사들의 경쟁도 같은 맥락에서 볼 수 있다. AI를 이용한 사이버공격에 대한 우려가 커지자 보안 성능을 강조해 자사 모델에 대한 신뢰를 높이는 데 활용하고 있다는 주장이 나오고 있다. 김은성 한국인터넷진흥원(KISA) 위협대응정책팀장은 "사이버보안 역량을 강조하는 데는 '보안을 잘하는 AI'라는 이미지를 자사 모델 전반의 안전성과 신뢰로 연결해 시장을 선점하려는 목적도 있다"고 말했다.

이은서 기자 libro@asiae.co.kr