Kakao在Kananah模板生成内容中加入水印
三星·SK电信AI图像也可识别水印
Anchornode、DeepBrainAI等部分初创企业也已采用
政府:“为确保落地,将积极提供咨询和案例集支持”

22日,全球首部《关于人工智能发展和信任基础构建等的基本法》(AI基本法)正式施行后,企业为遵守法律规定的“对AI生成结果物标注水印义务”而作出的应对措施接连出现。尽管政府设置了为期1年以上的宽限期,但业界认为既然认同立法宗旨,提前主动做好准备更为妥当。

“我们守住了”……《AI基本法》强制启用水印 View original image

Kakao近期在新推出的“Kanana模板”中,反映了基本法中明示的“AI使用标注义务”。通过Kanana模板将KakaoTalk照片制作成视频时,AI生成结果物右下角会同时附带“kanana”字样的水印和Logo。该水印是为应对AI基本法而设置的,Kakao还在条款中写入“当公司提供由AI生成的结果物时,将依据相关法律进行告知和标示”的内容。Kakao相关负责人表示:“在引入Kakao的AI基础新功能和服务时,我们考虑到AI基本法的施行,将必要内容写入了综合服务条款中。”


从用户视角来看,水印分为可感知水印和不可感知水印。三星电子和SK电信也在通过AI生成的图像作品中应用了可感知水印。相反,谷歌、OpenAI、Meta等海外主要企业则利用国际标准C2PA或自研算法开发的不可感知水印。构建了AI技术标准的C2PA,是于2021年由Adobe、英国广播公司(BBC)、微软(Microsoft)、英特尔等为主导成立的全球联盟。在韩国国内,Naver和ESTsoft已加入C2PA。


AI基本法对经营者赋予了确保透明性和安全性的义务。对于与现实难以区分的深度伪造(Deepfake)生成物,必须以人类能够清晰识别的方式进行标示。即便将AI生成结果物输出到服务外部,也必须加入水印。不过,如果AI生成物仅在聊天机器人、游戏、元宇宙等服务环境内部使用,则可以通过用户界面(UI)提示、Logo展示等方式较为灵活地进行标示。此外,法律并未对将AI生成结果物用于内容制作或上传至社会关系网络服务(SNS)的普通用户赋予法定义务。


部分中小企业和初创公司虽然也意识到水印义务化的趋势,但目前主要还是具备应对监管变化的人力与资源余力的企业在采取行动。Anchornode自去年年底起,已将通过其自家生成式AI基础游戏制作解决方案生成的图像设置为必须显示“gameAify”水印。尽管建设成本较高,但公司决定遵循政府为防止AI生成结果物被误用、滥用而制定的方针。DeepBrain AI也在本月初公开了不可见水印解决方案,并将其应用于自家平台“AI Studio”。虽然从外观上无法识别,但文件中会保留AI生成与否及来源等关键信息的痕迹,即便在编辑、复制或录制之后仍可追踪。


政府强调,此次基本法的重点并非强化对AI业界的监管,而是为了促进产业发展。为减轻一线混乱、确保制度顺利落地,政府计划设置为期1年的宽限期并给予支持。在宽限期内,仅在发生造成人员伤亡、人权侵害等社会问题,或引发国家层面损失的情形下,才会例外地进行事实调查。



科学技术信息通信部相关负责人表示:“AI基本法旨在对经营者赋予必要且最低限度的义务,以提升安全性和可信度。我们将搭建回应咨询的平台,提供咨询服务,并编制案例集,帮助企业理解并导入相关制度。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点