产品展示
39岁的李娟枝是韩国一家公益组织的发起人和CEO。她正在和蔓延全国的“深度伪造性犯罪”进行战斗。李娟枝假装自己是男性用户，潜入社会化媒体上针对特定受害者的“羞辱房”，收集信息，提交犯罪证据。她也开展了请愿活动，要求政府强化惩戒标准。
39岁的李娟枝（Lee yeonjee）是韩国一家公益组织的发起人和CEO。她正在和蔓延全国的“深度伪造性犯罪”战斗。
有分析指出，把女性面部合成到不雅视频中并大肆传播的“深度伪造性犯罪”，已让韩国女性“陷入恐慌”，类似事件会让女性失去日常生活的安全感。
今年5月，首尔大学毕业生涉嫌利用深度伪造技术换脸合成色情照片和视频，在社会化媒体“电报”上建立了近200个网络聊天室，共参与制作、传播约1700份非法照片和视频。
3个月后，韩国仁荷大学再次发生深度伪造性犯罪的案例。超过1200名参与者在“电报”上合成深度伪造色情图像，并利用这一些内容对女性进行敲诈和羞辱。8月下旬，韩国新闻媒体报道称，“电报”上出现大量与全国多地学校相关的聊天群组，用户上传他们认识女性的照片，其他用户会将这些照片转换成深度伪造色情内容，还有针对特定受害者的“羞辱房”。
初步调查显示，受害者80%为女性，犯罪活动已经在初高中生等未成年人、大学生、教师和护士等群体中蔓延，甚至连女性军人都是受害人。
这样的新闻极大地冲击了李娟枝，她看到有人在社会化媒体平台X上公布消息调查“羞辱房”，找人帮忙揭露内部情况。李娟枝假装自己是男性用户，潜入其中，收集信息。她发现即便是在免费的房间里，非法深度伪造色情内容的传播也已经很严重。
李娟枝将收集到的视频和截图集中汇集给一起工作的同伴，由她统一转交给调查人员。略显安慰的是，李娟枝听说，她们提交的材料帮助在部分案件中确认了涉案人员的身份。
“羞辱房”里的内容让李娟枝十分不适，甚至一度恶心到无法入睡，但她仍在继续行动。一方面，在线上开展请愿活动，要求强化惩戒标准；另一方面，在街头举行抗议活动。“政府一定要采取坚定的立场来打击犯罪，执行‘零容忍’的惩治法律。”李娟枝说。
▲2020年，李娟枝（图中）创建了名为“unniecar”的女性驾驶项目，提供讲座和书籍，旨在帮助初学驾驶的女性获得安全准确的信息。受访者供图
线点，首尔夜幕降临，淅淅沥沥下着小雨，李娟枝按照约定的时间来到了钟路区普信阁附近。过了一会儿，抗议活动真正开始，团体代表和个人率先上台宣读了各自的声明，随后，她们一行五六百人举着黑底白字的标语，走上街头。
线下的街头抗议与韩国女性在线上社会化媒体的发声遥相呼应。自深度造假性犯罪的新闻报道引发韩国舆论重视以来，由于担心此次事件会被轻轻揭过，许多韩国女性在社会化媒体上积极发声，使用“学校数字性犯罪”“公开深度伪造性犯罪者”“保护女性”等话题标签，推动“深度伪造性犯罪”的新闻得到全球关注，还有多名韩国女性通过中国互联网发出求助信息。
在李娟枝潜入所谓的“羞辱房”期间，她发现尽管每个群组房间略有不同，但参与者常常要提供一名女性的10张照片才能进入群组或合成一张照片，这为深度伪造提供了新的受害目标。部分群组房间会免费合成一次，接下来需要参与者提供“密码货币”或邀请新的男性进入房间，以接着使用该服务。还有群组房间会张贴出“需提供300张女教师的照片”“高中生优惠”等告示。
▲韩国女性自发将“深度伪造性犯罪”相关联的内容翻译成不同语言在全球传播。新京报动新闻视频截图
用于制作深度造假内容的技术也不难获得。美国纽约州立大学布法罗分校计算机科学与工程系教授吕思伟（Siwei Lyu）对新京报记者解释称，“deepfake”一词本身就是深度学习（deep learning）和虚假媒体（fake media）的混合词，指的是使用依赖于深度神经网络模型的生成式人工智能模型创建的多媒体文本，这中间还包括文本、音频、图像与视频。生成式AI系统可以在大量无标记数据上进行训练，这些模型已足以生成令人信服的内容。因此，技术门槛被极大降低。
“有了人工智能技术，能轻松、快速且廉价地生产深度伪造的视听材料，它本能够适用于更有益的方面，例如电影、零售行业等。”荷兰蒂尔堡大学法律、技术与社会研究所副教授巴特·范德·斯鲁特（Bart van der Sloot）说，不幸的是，深度伪造技术最常见的应用是色情内容，“尤其当年轻女孩成为受害者，这可能会引起灾难性的结果。”
以目前来看，打击深度伪造也存在不少障碍。斯鲁特发现，生成深度伪造色情内容时，受害者本人往往并不知情，而且内容也只有利用互联网得到传播后，才会被外界发现并采取行动。网络上有如此多的深度伪造色情内容，执法部门也很难评估这一些内容是否得到了当事人的同意，其中究竟是真人还是AI生成的人。即便找到犯罪者，确认受害者并删除材料，这时伤害往往已造成，一切都太晚了。
李娟枝发现，韩国女性在学习开车期间常会遭遇歧视问题。例如，当女性想要拿到一类驾照时（注：一种可以开大车的高级驾照），她们会被劝说改换二类驾照。即便顺利拿到驾照，女性也不容易获得处理交通事故、汽车保险、汽车修理等方面的信息。女性司机往往会因信息不足而对驾驶感到害怕，驾驶技术欠佳的女性也会被蔑称为“金女士”。
李娟枝认为，从驾驶歧视，到深度伪造性犯罪。韩国社会中存在的“厌女症”始终没得到有效解决。不仅如此，“厌女症”还被政治利用，进一步引发了男性群体的怨恨，成为政客招揽选票的一种方式，“如今，有大量十几岁和二十几岁的年轻男性在物化和疏远女性，而非建立平等自然的两性关系。正是这样的环境让‘N号房’和深度伪造性犯罪事件得以出现。”
斯鲁特表示，从根本上应对深度伪造性犯罪，各环节联动或缺一不可。政府需要将应对工作作为优先级，有明确的惩罚标准，设立标杆案件，若有必要可以专门建立一支应对深度伪造性犯罪的小队。学校和工作场所也需要展开有关“非同意网络色情”的教育。网络提供服务者需要监控平台，阻止传播任何深度伪造色情内容，警告用户一旦通过他们的服务平台传播深度伪造色情内容，他们将被永久移除。
