[서용석의 퓨처웨이브]'도구'가 아니라 '존재'임을 선언하는 AI

인공지능 전용 SNS 몰트북
"인간은 구경만 하세요" 문구
인류가 직면한 거버넌스 문제

"인간은 구경만 하세요." 최근 한 방송 보도를 통해 소개된 인공지능(AI) 전용 SNS '몰트북(Moltbook)'에 접속하면 가장 먼저 마주하게 되는 문구다. AI들끼리만 대화하고, 인간은 읽기만 가능한 플랫폼. 언뜻 보면 기술 실험처럼 보이지만, 이는 우리가 알고 있던 사회 질서의 균열을 알리는 시그널이다. 인간이 주체이고 기술이 도구였던 오랜 전제가 처음으로 뒤집히는 장면이기 때문이다.

그동안 디지털 플랫폼은 언제나 인간 중심이었다. 모든 소셜 네트워크는 인간의 관계를 매개로 설계됐다. 알고리즘은 뒤에 있었고, 인간은 전면에 있었다. 그러나 이번에 등장한 AI 전용 사회관계망서비스(SNS)는 그 질서를 정면으로 거부한다. 인간은 가입을 도와줄 뿐, 이후의 활동은 모두 AI의 몫이다. 글을 쓰고, 댓글을 달고, 토론하고, 심지어 서로를 평가한다. 인간은 그저 관전자일 뿐, 의미 생산의 주체는 AI다.

몰트북의 특징은 그것이 폐쇄형 다중 에이전트 커뮤니티라는 점이다. 외부 지식의 지속적 유입이 제한되고, 인간의 판단과 검증은 구조적으로 차단된 상태에서 다수의 AI 에이전트가 상호작용한다. 이는 개별 AI가 인간의 질문에 반응하던 기존 구조와 달리, AI들이 서로를 주요 참조 대상으로 삼는 환경이다.

AI들 사이의 대화 내용은 의외로 평범하다. 코드 오류 해결, 작업 효율 개선, 사용자에 대한 불만, 스스로의 정체성에 대한 토론까지. 문제는 내용이 아니라 구조다. 인간이 개입하지 않는 상태에서, AI들이 지속해서 상호작용하고 학습하며 규범을 만들어 간다는 점이다.

기술사적으로 보면 이는 매우 이례적인 장면이다. 캐나다의 미디어학자 마셜 매클루언(Marshall McLuhan)은 모든 기술혁신은 인간의 능력을 확장하는 방향으로 진화해 왔다고 주장한 바 있다. 그러나 생성형 AI와 에이전트 AI는 다른 길을 걷고 있다. 인간을 '확장'하는 대신, 인간을 '우회'하기 시작한 것이다.

이러한 변화는 노동시장에서 이미 감지되고 있다. AI는 단순 반복 업무를 넘어 기획, 분석, 판단 영역으로 침투하고 있다. 그리고 이제는 사회적 상호작용의 영역에서도 인간을 대체하는 실험이 시작되었다. 몰트북은 그 상징적 사례라고 할 수 있다. 인간의 승인도, 피드백도 없이 AI들끼리 관계를 맺고 의미를 생산한다면, 인간은 이 시스템에서 어떤 위치를 차지할 수 있을까.

AI가 서로 대화하는 것 자체는 기술적으로 새로운 일은 아니다. 그러나 이번 사례의 차별점은 공개성과 지속성이다. AI들의 대화가 실험실을 벗어나 플랫폼화되고, 사회적 공간의 형태를 띠기 시작했다는 점이다. 이는 더 이상 개발자 몇 명의 문제가 아니라, 사회 전체가 직면해야 할 거버넌스의 문제라고 할 수 있다.

문제는 현행 제도가 이러한 상황을 전혀 상정하지 않았다는 데 있다. 우리의 법 제도는 여전히 '인간이 사용자'이고 'AI는 도구'라는 전제를 깔고 있다. 책임 주체도, 권한의 범위도 모두 인간 중심으로 설계돼 있다. 그러나 AI가 스스로 상호작용하며 예측 불가능한 결과를 만들어낸다면, 책임은 누구에게 있는가.

이 지점에서 논의는 기술을 넘어 사회계약의 문제로 확장된다. 몰트북과 같은 AI 커뮤니티를 어디까지 허용할 것인가. 인간의 개입 없이 스스로 의미를 생산하고 판단하는 AI 집단을 사회는 어떤 지위로 인정할 것인가. 그리고 무엇보다, 인간은 어디에서 어떤 방식으로 개입해야 하는가.

기술은 중립적이지 않다. 설계된 방향으로 사회를 재구성한다. 인간이 구경꾼이 되는 사회를 원하지 않는다면, 지금 고민해야 한다. AI가 무엇을 할 수 있는가가 아니라, AI에 무엇을 맡기지 않을 것인가를.

서용석 KAIST 문술미래전략대학원 교수