自研AI模型“从零开发”标准引争议
“采用外部编码器是技术判断…可更换为自有编码器”
部分人士质疑“未满足授权标准”
“从零开发”标准模糊…“须通过讨论完善标准”
Naver Cloud就其自主人工智能(AI)基础模型“From Scratch”被指借用中国模型一事表示,利用外部模型的视觉编码器属于可用自有技术替换的技术领域。Naver Cloud相关人士7日接受《亚洲经济》电话采访时称:“视觉编码器是一种可与基础模型兼容的工具”,“在今后模型高度化过程中,也可以转为自有编码器”。
据信息技术业界介绍,此次争议起因于有观点指出,Naver Cloud公开的“HyperCLOVA X SEED 32B Think”模型与中国阿里巴巴开源AI模型“Qwen 2.4”模型之间,视觉编码器权重的余弦相似度和皮尔逊相关系数较高。余弦相似度是体现模型方向性的一项指标,皮尔逊相关系数则反映模型之间的相关关系。两项指标越高,通常说明模型之间的相似度越高。
本次争议聚焦于作为自主AI业务要件的“From Scratch”。政府推进的自主AI基础模型项目,为避免依赖海外技术,将从零开始全新开发AI模型的“From Scratch”作为评估方式提出,但也有意见指出,这一标准本身并不明确。
Naver Cloud:“正考虑今后以自有编码器进行替换的可能性”
Naver Cloud在参与本次项目的5个联合体中,是唯一公开了可处理视觉(图像、视频)和语音数据的全模态模型的企业,据其说明,在这一过程中曾利用阿里巴巴模型的视觉编码器。视觉编码器的作用是将图像或视频中的视觉信息转换为AI模型可以理解的形式。
Naver Cloud方面强调,之所以利用阿里巴巴的模型,并非因为技术实力不足。Naver Cloud表示:“并不是因为技术自立程度不够,而是出于利用已标准化的高性能模块,提高整体模型完整度和稳定性的技术判断”,“我们已经拥有包括VUClip在内的充分的自主视觉技术实力”。若将基础模型比作负责人的思维与身份的“大脑”,那么视觉编码器则相当于把视觉信息转化为模型可理解信号的“视神经”,Naver Cloud如此解释。
不过,也有观点认为,鉴于视觉编码器在全模态模型中占据重要地位,不应采用外部模型。理由在于,视觉编码器不仅将视觉信息转换为AI可理解的形式,还承担对关键信息赋予权重的功能,其重要性不亚于主模型。换言之,视觉编码器不仅发挥视神经的作用,也在一定程度上承担着作出判断的“大脑”角色。
在模型运行过程中,视觉编码器所占比重也不低。根据业界说法,在HyperCLOVA X SEED 32B的运行过程中,若以参数为基准,视觉编码器所占比例约为12%。
“自主”基础模型争议升温……“有必要明确From Scratch标准”
也有声音以授权许可为由指出,HyperCLOVA X SEED 32B并未满足From Scratch的标准。根据自主AI基础模型招标时提出的标准,该模型应为“从模型设计到预训练过程等均由本国开发,且不存在对他社模型的授权许可问题的国产模型”。
按这一标准,如果阿里巴巴将其以开源形式公开的Qwen 2.4的授权许可进行调整,就会导致其不再满足From Scratch的标准。所谓开源,是指在开发过程中向任何人公开软件以供使用。
高丽大学AI研究所所长Choi Byungho表示:“若仅从招标内容来看,HyperCLOVA X SEED 32B很可能不属于自主AI基础模型”,“这不是技术力不足,而是没有按照项目要求的形式提交,属于战略问题”。
同时,鉴于From Scratch这一标准本身较为模糊,也有意见认为,应以此次争议为契机,由AI业界与学界共同逐步建立相关标准。国内AI业界一位相关人士称:“由于国内AI基础模型开发尚处于初期阶段,From Scratch的标准尚不清晰,才引发了此次争议”,“借此机会,通过产学界的讨论逐步制定标准的过程本身也具有意义”。
主导本项目的科学技术信息通信部也表示,尚未就From Scratch制定具体标准。该部门一位相关人士称:“(AI模型)从哪一步算是自己做的,不同人看法不同,这是一个抽象概念”,“在全球范围内也不存在From Scratch的统一标准,业界内部的讨论仍在进行中”。科学技术信息通信部的立场是,From Scratch的标准应通过专家和业界的讨论来确定。
不过,此次争议预计也将对预定于本月中旬进行的自主AI第一轮评估产生影响。这位相关人士表示:“在第一轮评估中将进行立体化评价,(此次争议)也会被纳入考量”,但同时强调“尚不能断言会因此左右评选结果”。科学技术信息通信部计划通过本月的评估,从5支精英团队中淘汰1支。
另一方面,围绕参与自主AI基础模型项目企业的模型抄袭争议正接连被提起。此前,Upstage的“Solar Open 100B”也被质疑复制了中国的AI模型。不过,在代表Kim Sunghun亲自出面进行的公开验证过程中,证实统计解读存在错误,提出质疑的一方随后道歉,事件暂告一段落。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。