생성형 인공지능(AI)이 논문을 쓰고 심사까지 돕는 시대가 열렸다. 연구 현장에서는 AI가 만든 참고문헌이 실제 논문에 인용되고, AI가 작성한 심사 의견이 연구자에게 전달되는 일도 더 이상 낯설지 않다.


많은 사람은 AI가 과학자를 대신할 수 있을지 묻는다. 그러나 지금 중요한 것은 AI의 능력이 아니다. AI를 이야기하기에 앞서 과학이 어떻게 발전해 왔는지부터 돌아볼 필요가 있다.

과학철학자 칼 포퍼는 "과학은 '증명'이 아니라 '반증(falsification)'으로 발전한다"고 말했다. 아무리 많은 실험이 어떤 이론을 지지하더라도 그것이 영원한 진실임을 증명할 수는 없다. 반대로 단 하나의 재현 가능한 반례는 기존 이론을 무너뜨릴 수 있다.

연구실에서 인간 과학자와 AI가 함께 논문를 검토하는 장면. 챗GPT 생성이미지

연구실에서 인간 과학자와 AI가 함께 논문를 검토하는 장면. 챗GPT 생성이미지

AD
원본보기 아이콘

그래서 과학은 정답을 많이 만드는 학문이 아니다. 끊임없이 의심하고, 틀릴 가능성을 시험하며, 살아남은 설명을 잠정적으로 받아들이는 과정이다. 이 때문에 과학은 흔히 데이터의 학문으로 불리지만 조금 더 정확히 말하면 '신뢰의 학문'에 가깝다.


연구자는 실험 결과를 있는 그대로 기록할 것이라는 믿음, 심사자는 이해관계 없이 논문을 검토할 것이라는 믿음, 다른 연구자는 같은 실험을 반복해 결과를 검증할 것이라는 믿음이 있어야 과학은 앞으로 나아간다.

논문은 연구 성과를 세상에 알리는 가장 중요한 수단이다. 하지만 논문 한 편이 곧 과학을 완성하는 것은 아니다. 다른 연구자들의 검증과 재현을 거쳐야 비로소 새로운 지식으로 자리 잡는다.


AI는 이 구조를 바꾸고 있다. 생성형 AI는 문헌을 찾고, 초록을 작성하고, 논문 초안을 만드는 시간을 획기적으로 줄였다. 실제로 지난해 발표된 한 연구는 2010년부터 2024년까지 바이오의학 논문 초록 1500만건 이상을 분석한 결과, 챗GPT 등장 이후 생성형 AI가 자주 사용하는 표현이 논문에서 급증한 사실을 확인했다. 연구진은 2024년 발표된 과학 논문의 최소 13.5%가 AI 보조 작성의 흔적을 보일 가능성도 제기했다.


하지만 논문이 많아질수록 더 중요한 것은 생산이 아니라 검증이다. 실제로 2023년 전 세계 철회 논문은 1만건을 넘어서며 역대 최고 수준을 기록했고, 주요 국제 학술출판사들도 AI 시대의 논문 검증 부담이 급격히 커지고 있다고 보고 있다. AI는 논문을 더 빨리 쓰게 만들었지만 그 논문을 읽고 검증하는 속도까지 높여주지는 못했다. 세계 학술계가 지금 가장 우려하는 것도 AI 자체가 아니라 이를 감당하지 못하는 검증 시스템이다.


AI가 만든 허위 참고문헌이 실제 논문에 포함되고, 폭증하는 원고를 검증할 연구자는 갈수록 부족해지고 있다. AI는 연구자의 부담을 줄여주기도 하지만, 동시에 과학이 수백 년 동안 유지해 온 검증 시스템에 새로운 부담을 안기고 있다.


그렇다면 AI는 결국 과학자를 대신하게 될까.


영국의 과학자이자 철학자인 마이클 폴라니는 "우리는 말할 수 있는 것보다 더 많은 것을 안다(We know more than we can tell)"고 했다. 과학자의 직관과 경험, 실패를 통해 쌓이는 지식은 논문이나 공식만으로 모두 설명할 수 없다는 뜻이다. 좋은 연구자는 데이터를 많이 아는 사람이 아니다. 무엇을 의심해야 하는지, 어떤 결과가 이상한지, 언제 기존 상식을 버려야 하는지를 직감하는 사람이다.


공상과학(SF) 소설 '은하수를 여행하는 히치하이커를 위한 안내서'에는 이를 상징하는 유명한 장면이 나온다. 슈퍼컴퓨터가 750만년을 계산한 끝에 우주의 궁극적 정답으로 숫자 '42'를 내놓는 장면이다. 작가 더글러스 애덤스는 "아무 의미 없는 평범한 숫자라 골랐다"며 황당한 유머를 노렸다고 밝혔지만, 후대의 과학자들과 프로그래머들은 여기에 기발한 해석을 붙였다. 컴퓨터 아스키코드에서 숫자 42가 별표(*)에 해당한다는 점, 이 별표가 프로그래밍에서 '무엇이든 될 수 있다'는 와일드카드로 활용된다는 점 등을 들어 "정답은 스스로 채워가는 것"이라는 해석을 덧붙인 것이다.


그러나 정작 질문을 던진 소설 속 인물들은 그 정답의 의미를 알지 못했다. 정답을 깨달으려면 '궁극의 질문'이 무엇이었는지부터 알아야 했기 때문이다. 이 지독한 풍자는 지금의 AI 시대를 그대로 관통한다. 생성형 AI가 아무리 정교하고 빠른 정답(데이터)을 쏟아내도, 그 데이터가 품고 있는 맥락을 읽어내고 "이것이 정말 최선인가?"라며 새로운 방향을 묻는 것은 결국 인간의 몫이다. AI는 수천만 편의 논문을 읽고 정답을 조합할 수 있지만, 새로운 질문을 던지는 능력까지 학습했다고 말하기는 어렵다.


뉴턴은 사과가 떨어지는 모습을 보고 "왜 아래로 떨어질까"를 궁금해했고, 아인슈타인은 "빛을 따라 달리면 세상은 어떻게 보일까"를 상상했다. 위대한 발견은 언제나 정답보다 질문에서 시작됐다. 과학은 논문을 가장 빨리 쓰는 존재가 아니라, 가장 중요한 질문을 끝까지 놓지 않고 그 답을 검증하는 사람들에 의해 발전해 왔다.

AD

AI는 데이터를 학습한다. 하지만 과학은 데이터를 신뢰하는 것이 아니라 데이터를 검증하는 사람들을 신뢰하는 시스템이다. 그 신뢰가 유지되는 한 AI는 훌륭한 연구 도구가 될 수 있다. 그러나 그 신뢰가 무너지는 순간, 아무리 많은 논문과 데이터도 더 이상 과학을 앞으로 나아가게 하지 못한다.


김종화 기자 justin@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈