“以后随手交的自我介绍都能被识破了”……句子里留下的“秘密指纹”[走进AI世界]

全球人工智能（AI）企业接连推出“水印”技术，用于识别由生成式人工智能创作的文字。这些企业希望像在生成式人工智能创作的图像中添加相关标记、表明其为人工智能作品那样，也在文本中应用此类水印。鉴于欧盟、韩国及世界各地已通过立法，要求为人工智能生成内容添加水印，水印的应用范围预计将逐步扩大。

据9日消息，OpenAI于当地时间5日宣布，将推出名为“TextGrain”的技术，用于识别文字是否由人工智能生成。OpenAI计划在未来几周内将这项技术应用于欧洲地区的ChatGPT和Codex。

View original image

TextGrain是一种在人工智能模型生成文字、选择单词的过程中加入细微统计信号的技术。它会在选择单词时应用特定的统计规则，在整篇文章中留下某种“纹路”，以判断是否使用了人工智能。这种方式并非在句子中插入隐藏字符或特殊符号，因此即使将文字复制并粘贴到其他地方，也能识别出来。

OpenAI表示，即使应用这项技术，人工智能回答的质量、性能和可读性也不会发生实质性变化。不过，受TextGrain技术特点影响，如果文本较短或用词较少，判断其是否使用人工智能的识别率可能会降低。即使用户稍微改动人工智能生成文本中的词语或表达方式，识别率也会下降。

此外，OpenAI将通过申请和审批，优先向获准的研究人员及专业机构提供检测TextGrain的工具。获得该工具的机构将能够判断文本是否由人工智能生成。

此前，Anthropic、谷歌等全球主要人工智能企业已推出此类文本水印技术。Anthropic于今年8月推出了类似的文本水印功能。谷歌也从2024年5月起，为通过Gemini生成的文本应用由Google DeepMind开发的文本水印技术“SynthID-Text”。

全球企业纷纷应用文本水印技术，背后原因是欧盟《人工智能法案》。这部法律与韩国《人工智能基本法》类似，其中包含“生成式人工智能透明度义务”规定。除了图像、视频、音频等媒体内容，文本也必须包含能够通过技术手段检测的水印或识别标记。

必读新闻

“韩国人纷纷抢着买”……这款药在日本只要8万韩元，韩国却卖35万韩元。

• “趁便宜就该买”……金价下跌后散户蜂拥抢购，银行金条卖出300亿韩元
• 这个假期要不要试试“二手交易”？胡萝卜节前一天是闪电节
• “算了算绩效奖金，至少有30亿韩元，感觉已脱离普通阶层”……三星电子半导体部门夫妻发帖引热议
• “新娘Lee Dogyeong，新郎也是Lee Dogyeong”……姓名连出生日期都相同的夫妻，“这简直是命中注定”

随着人工智能作品日益精细，利用这些作品实施深度伪造、网络犯罪，以及传播虚假和操纵信息的风险不断上升，因此相关方面采取了这一应对措施。近期，随着人工智能模型不断升级，放慢发展步伐的观点也开始出现，人工智能安全受到的关注日益增加。主流观点认为，此类水印技术的应用范围也将随之扩大。

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。