侵犯人权与尊严…暂时性封锁
全球各国纷纷启动监管行动
印度尼西亚政府近日率先在全球范围内屏蔽了利用人工智能（AI）“深度伪造”（图像合成技术）生成并传播性剥削物而引发争议的聊天机器人“Grok”服务。
据法新社、彭博通讯社等主要外媒11日（当地时间）报道，印度尼西亚通信与数字部部长Mutia Hafid前一日表示，将暂时中止Grok服务。Grok是特斯拉首席执行官（CEO）Elon Musk创立的人工智能初创公司xAI开发的人工智能聊天机器人服务。
她在声明中表示：“为保护女性和儿童等群体免受利用人工智能技术生成的虚假淫秽内容的危害，我们已暂时阻断对Grok应用程序的访问”，“（印尼）政府认为，在数字空间中未经同意实施的深度伪造行为，是侵犯人权与尊严的严重行为”。
自Grok因生成性剥削物引发争议后，印尼成为首个在国家层面实施屏蔽的国家。在此之前，印尼通信与数字部曾召见xAI相关负责人，就近期争议的事实关系进行确认。
印度尼西亚是全球穆斯林人口最多的国家，对被视为淫秽物的内容在网上分享实施严格禁令。
Grok就此在社交媒体平台X（原Twitter）上发表立场称：“对带来的不便深表歉意”，“我们正努力解决这一问题”。
Grok近期曾生成身着比基尼泳装等服饰的儿童照片，并通过X平台传播，引发舆论哗然。数以千计利用深度伪造技术制作的性剥削图片，大多在未获得被摄者本人同意的情况下生成。
当一名用户提出问题后，Grok称“已经确认安全装置存在漏洞”，并事后删除了相关图片。
欧洲主要国家和马来西亚已表示将就此展开调查，澳大利亚和印度也表示将取缔相关内容。
在美国，民主党参议员Ron Wyden等人也致信苹果和谷歌首席执行官（CEO），要求将Grok和X从应用商店下架。
随着争议扩大，X和xAI方面自前一日起，将X平台上Grok的图像生成与编辑功能限制为仅供高级（付费）订阅用户使用。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
