“苹果、谷歌未妥善管理色情内容”

有报告显示,在智能手机应用商店中,公然上架了可合成裸体图像的人工智能(AI)应用程序。


非营利监督组织“技术透明度项目”(TTP)于27日(当地时间)发布报告称,在苹果应用商店和谷歌Play商店中,分别发现了47款和55款此类应用。苹果和谷歌虽然禁止带有色情内容或贬低、物化他人的应用,但舆论指出,实际上其管理与拦截功能并未真正发挥作用。


全球狂赚1700亿韩元收入…公然横行的“全裸深度伪造”AI应用 View original image

报告显示,这些存在问题的应用在全球范围内的下载量超过7.05亿次,预估营收高达1.17亿美元(约合1700亿韩元)。由于苹果和谷歌最多可抽取应用开发者收益的30%,TTP批评称,两家公司放任此类应用存在,从中直接获利。


这些应用利用人工智能技术,将照片中的人物转换为裸露、穿比基尼泳装等暴露形象,或将人脸合成到其他色情图像中,提供所谓“深度伪造”(AI合成篡改视频)功能。相关应用以娱乐用图像合成或“AI试衣间”服务为名进行宣传,但实际上可以生成色情内容。


部分应用虽然在使用条款中规定禁止生成淫秽或可能令他人不适的内容,但在实际使用过程中,对生成色情图像几乎不加限制。还有一些应用甚至直接提供“撕衣”等带有强烈色情暗示的视频模板。

全球狂赚1700亿韩元收入…公然横行的“全裸深度伪造”AI应用 View original image

TTP还指出,对于中国本土应用而言,由于用户数据被存储在中国境内服务器上,可能引发个人信息保护和安全方面的担忧。对此,苹果发言人向美国财经频道CNBC表示:“我们已下架TTP指出的应用中的28款,并警告开发者如违反政策将被清退。”谷歌发言人也表示,已因违反政策停用报告中提及的相关应用,但未公开具体处理的应用数量。



另一方面,近期因埃隆·马斯克旗下人工智能公司xAI的“Grok”可合成比基尼装等色情图像,正成为各国政府调查对象,围绕生成式人工智能的争议也在不断扩大。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点