“阻止学生裸体照传播”……全球学校正与深度伪造色情内容开战

by Jeong Hyunjin

Published 13 Apr.2024 07:00(KST)

利用同班同学社交媒体照片制作淫秽物激增
在美国不仅被学校开除还被警方逮捕
国内受害者不止学生教师也中招
有必要完善校规及相关法律

世界各国的学校和社区已经开始与“深度伪造色情内容”展开战争。随着人工智能（AI）技术应用日益普及，利用AI制作并散布虚假裸体照片的数字性犯罪不断扩散。尤其是学生受害案例接连出现，有舆论指出，亟须制定措施加以防范。

图片来源路透社联合报道提供

美国比佛利山庄5名男生被开除：“极端霸凌”

据《纽约时报》等媒体13日报道，今年2月，美国洛杉矶富人区比佛利山庄的比佛利维斯塔中学对制作并散布校内16名女学生假裸体照片的5名男生作出开除决定。不过，尽管当地警方进行了独立调查，但并未对加害者提起公诉或实施逮捕。

“深度伪造”（Deepfake）一词由“深度学习”和表示虚假的“fake”组合而成，指的是基于AI技术，将人脸等部位篡改得如同真实一般的图像或视频。近期，生成式AI应用程序（App）使用门槛大幅降低，学生利用其制作并散布假裸体照片等虚假色情内容的情况正在快速增加。

比佛利维斯塔中学方面在获悉男学生制作并散布12～13岁女学生的深度伪造色情内容后，立即向全体学生、家长及教职员工发送题为“AI的可怕滥用”的信息，敦促各方采取措施，防止学生不当使用AI。该学区教育总监Michael Bregy指出：“这是发生在学校里的极端霸凌行为，这样赤裸裸的照片会给受害者及其家人带来巨大冲击，可谓一种暴力。”他同时强调：“学生尚处于学习和成长阶段，难免会犯错，但承担责任是理所当然的，就这一犯罪而言，绝对不可能被容忍。”

佛罗里达散布假裸体照，警方实施逮捕

在美国学校发生深度伪造色情内容的制作、散布事件时，即便警方介入调查，加害学生被逮捕的情况也极为罕见。

图片由EPA联合法新社提供

美国信息技术专业媒体《连线》将美国佛罗里达州迈阿密一案视为首例：两名13～14岁男生制作并散布12～13岁女学生的深度伪造色情内容，于去年12月被逮捕，并因制作、散布深度伪造色情内容而被刑事起诉。根据获取的警方调查报告，两名男生因在未获受害者同意的情况下制作并散布虚假色情内容而被起诉。依据2022年制定的佛罗里达州法律，该犯罪属于三级重罪。

由于校内深度伪造色情内容的制作本身就是利用新技术出现的最新类型案件，学校方面往往难以及时判断应如何应对。去年10月，Westfield公立高中的一名男生利用女学生在社交媒体（SNS）上公开的照片制作并散布深度伪造色情内容，受害者及其父母曾要求学校方面强硬应对。但由于学校反应迟缓，受害学生的父母甚至未能正式获得完整的事件报告。

美国斯坦福大学互联网研究所研究员Riana Pfefferkorn表示：“这一现象出现得太过突然，许多准备不足的学校在事件发生时根本不知道该做什么。”

随着此类事件在全美各地频频发生，美国联邦调查局（FBI）上月发布警示称，利用生成式AI等技术制作并散布可辨识未成年人的深度伪造色情内容属于违法行为。

利用AI实施的新型校园暴力……韩国国内同样“头疼”

校内深度伪造色情内容的制作与散布事件并非美国独有问题。

图片来源路透社联合新闻提供

据加拿大广播公司新闻频道（CBC News）报道，去年年底，加拿大南部温尼伯一所学校也发生了描绘女学生性行为的深度伪造色情内容在网上传播的事件，学校方面已向警方报案。相关虚假裸体照片是将社交媒体上公开的照片输入生成式AI应用程序制作而成。据悉，学校一方面展开调查以确认散布者身份，另一方面也与相关公司联系，要求删除这些假照片，防止进一步扩散。

欧洲情况也大致相同。去年9月，西班牙南部阿尔门德拉莱霍小镇有20余名女学生收到含有自己面孔的假裸体照片，通过即时通讯应用发送而来，深受打击。加害者将受害者在社交媒体上公开的照片输入生成式AI应用程序，转换成裸体色情图片，完全属于伪造照片。受害者中甚至包括一名11岁女孩。一些受害者表示，因心理创伤严重，甚至难以出门。

受害学生的父母组成了支援小组，并向警方提交了控告书，西班牙警方至今仍在就此进行调查。已确认身份的10余名加害嫌疑人大多为12～14岁的未成年人。他们通过WhatsApp、Telegram等在线即时通讯工具散布这些假色情照片。

韩国也在发生校内深度伪造色情内容制作与散布犯罪。教育界将其视为利用AI实施的所谓“新型校园暴力”。

近期，某电视节目介绍了一位父亲的案例：釜山一所中学三年级女学生的脸被合成到另一名女性的裸体照片上，相关色情内容被散布，最终确认作案者是同校男学生。在忠清北道珍川，也有5名中学三年级男学生因利用同龄5名女中学生及同校2名女教师的照片制作并散布假裸体照片而接受警方调查。