"AI는 보조 도구, 책임은 연구자에게"…정부 연구윤리 가이드에 과학계 우려[과학을읽다]

김종화 기자

입력 2026.09.20 12:00

과기정통부, AI 연구윤리 7대 권고사항 확정
연구자들 "AI 활용 현실과 괴리…보안·행정 부담에 연구 자율성 위축 우려"

인공지능(AI)을 활용해 논문을 작성하고 연구 결과를 분석하더라도 최종 판단과 책임은 인간 연구자가 져야 한다. 국가연구개발 과제를 평가하거나 논문을 심사할 때는 미공개 자료를 외부 AI에 입력해서도 안 된다. 정부가 AI 시대의 연구윤리 기준을 제시했지만, 과학계에서는 실제 연구 현장의 변화를 충분히 반영하지 못했다는 지적이 나온다. AI 활용의 투명성을 높이려는 취지가 새로운 행정 부담과 연구 자율성 제한으로 이어질 수 있다는 우려다.

연구실에서 인간 과학자와 AI가 함께 논문를 검토하는 장면. AI 생성이미지

과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 '국가연구개발 AI 연구윤리 가이드'를 확정하고 20일 공개했다. AI가 연구 전 과정에 도입되면서 부정확한 정보 생성과 편향, 연구정보 유출 등의 위험이 커지자 국가연구개발 수행 과정에서 지켜야 할 윤리 기준을 마련한 것이다.

AI 활용 공개하고 연구자가 최종 검증

가이드는 사실관계 검증, 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 정책·규정 준수, 보안 확보, 개인정보 보호 등 7대 권고사항을 담았다. AI를 활용하더라도 연구자가 결과를 직접 검증하고 판단해야 한다는 것이 핵심이다.

국가연구개발 과제 평가와 논문 심사에서는 평가자가 심사 대상 자료를 외부 AI에 입력하지 않도록 했다. 평가받는 연구자가 심사 자료에 숨겨진 명령어를 삽입해 AI의 평가 결과를 조작하는 '은닉 프롬프트' 등으로 평가를 왜곡하는 행위도 경계했다. 연구자가 윤리적 문제를 스스로 점검할 수 있는 자가진단표와 AI 활용 여부 공개 서식도 마련했다.

이준상 연세대 기계공학부 교수는 "이번 가이드는 AI 활용을 제한하기보다 AI를 연구의 보조 도구로 활용하되, 연구의 판단과 책임은 연구자에게 있다는 원칙을 명확히 제시했다는 점에서 의미가 있다"고 평가했다.

"AI는 이미 가설 수립까지 참여…연구 현실 반영해야"

논란의 핵심은 AI를 연구의 보조 도구로 규정한 원칙이 실제 연구 현장의 변화를 충분히 반영하고 있느냐는 점이다.

염한웅 기초과학연구원(IBS) 원자제어저차원전자계연구단장 겸 포스텍 물리학과 교수는 "AI는 이미 단순 데이터 정리를 넘어서 데이터 분석, 이론적인 모델 추출 등 훨씬 광범위하게 쓰이고 있다"고 지적했다. AI가 논문 작성뿐 아니라 연구 기획과 가설 수립, 방법론 선택 등 연구 전 과정에 활용되는 현실을 가이드가 반영하지 못했다는 것이다.

보안을 이유로 AI 도구를 제한하는 원칙도 쟁점이다. 이민욱 한국과학기술연구원(KIST) 특수구조체연구센터 책임연구원은 기관 내부에서 사용하는 폐쇄망 AI와 최신 상용 AI 사이의 성능 격차를 우려했다. 상용 AI 사용을 제한하면 연구 품질이 떨어지고, 연구자들이 비공식적인 경로로 AI를 활용할 가능성도 있다는 것이다.

박정빈 부산대 의생명융합공학부 교수는 "기관이 안전한 연구 환경을 제공할 책임과 연구자의 도구 선택을 사전에 통제하는 것은 별개의 문제"라며 연구 자율성을 존중해야 한다고 강조했다. AI 활용 여부를 공개하도록 한 조치가 새로운 행정 부담으로 이어질 수 있다는 지적도 제기했다.

반면 윤리 기준의 실효성을 높이기 위해 제재 방안을 구체화해야 한다는 의견도 있다. 구자호 연세대 대기과학과 교수는 AI 오용·남용 사례집을 마련하고, 은닉 프롬프트 등 명백한 악용 행위에 대해서는 징계 방안을 논의할 필요가 있다고 제안했다.

연구기관의 규모와 자원에 따른 AI 활용 격차도 해결 과제로 꼽혔다. 박한우 영남대 사회과학대 학장은 비수도권 대학과 소규모 연구기관이 공동으로 이용할 수 있는 보안형 대규모언어모델(LLM)과 연구용 AI 인프라를 공공 자원으로 제공해야 한다고 주장했다.