“AI是辅助工具，责任归研究人员”……科学界担忧政府研究伦理指南[读懂科学]

即使利用人工智能（AI）撰写论文、分析研究成果，最终判断和责任仍应由人类研究人员承担。在评估国家研发课题或审查论文时，也不得将未公开资料输入外部AI。政府提出了AI时代的研究伦理标准，但科学界指出，该标准未能充分反映实际研究现场的变化。人们担忧，提高AI使用透明度的初衷可能会演变为新的行政负担，并限制研究自主性。

研究室内，人类科学家与人工智能共同审阅论文的场景。人工智能生成图片

View original image

科学技术信息通信部经国家科学技术咨询会议运营委员会审议表决后，确定《国家研发AI研究伦理指南》，并于20日公布。随着AI被引入研究全过程，生成不准确信息、偏见及研究信息泄露等风险日益上升，政府因此制定了在开展国家研发工作过程中应遵守的伦理标准。

指南纳入了核实事实关系、独立判断、确保透明度、管理结果可靠性、遵守政策与规定、确保安全、保护个人信息等七大建议事项。其核心在于，即便使用AI，研究人员也必须亲自验证结果并作出判断。

在国家研发课题评估和论文审查中，指南规定评审人员不得将待审资料输入外部AI。指南还警惕通过“隐藏提示词”等方式扭曲评估的行为，即受评研究人员在评审资料中植入隐藏指令，以操纵AI的评估结果。政府还制定了供研究人员自行检查伦理问题的自检表，以及AI使用情况公开表格。

延世大学机械工程系教授Lee Junsang评价称：“此次指南并非限制AI的使用，而是明确提出将AI作为研究辅助工具使用、但研究判断与责任归于研究人员的原则，这一点具有意义。”

争议的核心在于，将AI界定为研究辅助工具的原则，是否充分反映了实际研究现场的变化。

基础科学研究院原子操控低维电子系统研究组组长、浦项科技大学物理系教授Yeom Hanwoong指出：“AI早已超越简单的数据整理，被更广泛地用于数据分析、提取理论模型等工作。”他认为，指南未能反映AI不仅用于论文撰写，还被应用于研究规划、建立假设、选择方法论等研究全过程的现实。

以安全为由限制AI工具使用的原则也是争议焦点。韩国科学技术研究院特殊结构体研究中心首席研究员Lee Minwook担忧，机构内部使用的封闭网络AI与最新商用AI之间存在性能差距。他指出，若限制使用商用AI，研究质量可能下降，研究人员也可能通过非正式渠道使用AI。

釜山大学医生命融合工程系教授Park Jeongbin强调，机构有责任提供安全的研究环境，与事先控制研究人员选择工具是两回事，应尊重研究自主性。也有观点指出，要求公开是否使用AI的措施可能会带来新的行政负担。

另一方面，也有意见认为，为提高伦理标准的实效性，应具体制定惩戒措施。延世大学大气科学系教授Gu Jaho建议，编制AI误用和滥用案例集，并有必要讨论针对隐藏提示词等明显滥用行为的惩戒方案。

不同研究机构因规模和资源而产生的AI使用差距，也被列为亟待解决的课题。岭南大学社会科学学院院长Park Hanwoo主张，应将非首都圈大学和小型研究机构可共同使用的安全型大型语言模型及研究用AI基础设施作为公共资源提供。

必读新闻

“YouTuber说的是真的吗？”一天播放量30万……农心回应“辛拉面口味”真相[吃货揭秘]

• 赴韩外国人抢购……售价3000韩元的“欧利芙洋包”加价转卖[K-Holic]
• “为什么不行？”周一早晨也能畅饮……快速增长的“无酒精”市场[当下的购买方式]
• “曾破9000点的韩国综指明年将跌破5200点”……专家预测依据何在
• 中秋连休多放两天，“先收拾行李，去哪儿都行”……国内游需求“暴增”

Park Hanwoo院长强调：“重要的不是‘是否使用了AI’，而是‘AI做了什么、人类验证了什么’。研究伦理不应停留在‘不得这样做’的规定上，还应涉及‘为了安全开展研究，需要提供什么’。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。