深度伪造（Deepfake）花消正在成为针对妇女暴力的新前沿。近日，韩国多起涉案嫌疑东说念主在未经女性知情或得意下，欺骗东说念主工智能时刻合成简直东说念主脸与伪善肉体，伪造色情影像，并在多个酬酢媒体群组等闲传播。据韩联社报说念炫夸，连年来，韩国Deepfake性罪犯案件数目一直呈上升态势妹妹情色电影，从2021年的156起增至2023年的180起，本年仅前七个月以至仍是累计答复297起。其中，案件受害者以年青女性为主，主要包括学生、教师和士兵，且近三分之二的受害东说念主都是青少年。
这次激增的Deepfake性罪犯激勉全球多国网民恐慌。但这并不是一次瞬息的爆发。
骨子上，早在本年年头，好意思国有名歌手泰勒·斯威夫特（Taylor Swift）的深度伪造色情图片就曾在酬酢媒体等闲传播，在平台方作念出删除惩办前，该图片已被累计浏览超4700万次。缺憾的是，这次事件仅在粉丝群体里面引起触动。好意思国有线电视新闻网还曾在本年1月末寥落刊发指摘著作，称“咱们最大的辗转即是，笃信这种伤害只发生在公世东说念主物身上”。而在更早些的2019年，收罗安全公司“深度跟踪”（Deeptrace）曾经发布过一项调研，服从炫夸其时96%的在线深度伪造视频都口舌自觉情色内容。“这不是一个小众问题。”
这次激勉怜惜的Deepfake案件，指向了收罗性罪犯仍是到了一个全新的阶段。当咱们梳理围绕Deepfake案件的磋商筹谋时会发现，这种看似非肉体的暴力之是以激勉如斯等闲的担忧，环球信得过顾虑的是一种更等闲的、充满敌意的收罗环境渗透简直宇宙。
东说念主工智能用具可能会导致新一代年青东说念主产生“我的愿望即是东说念主工智能的命令”的心态。“如果咱们不注意，不仅会创造新一代的受害者，还会创造新一代的施虐者。”这些筹谋也再度教导咱们，对于性别的偏见——这一生界上最陈腐的偏见并未远去，如何完结两性之间的信得过对等仍然任重说念远。而时刻一直隐含风险，它是用具却从来不是谜底。
Deepfake案件回溯：
攻击性的色情？
从某种进程来说，Deepfake（深度伪造）之于视频，就像Photoshop之于图片。两者都直不雅冲击了简直和虚构之间的界限。在深度伪造时刻流行之前，东说念主们对“低价伪造”应该都不生分。后者指的是对现成素材进行惩办，且惩办模式仅限于放慢或加速视频中部分段落的播放速率，或者选择性地编订拼贴内容。好意思国众议院议长南希·佩罗西（Nancy Pelosi）就曾深受其害。相较而言，深度伪造的变形制作则不错将一张脸与另一张脸互换、或将一张脸上的颜料换到另一张脸上，在这个基础上再统一配音或者声息克隆等模式，这项时刻就能够完结以极低的资本制作出都备虚构但极其传神的视频。早年间国际酬酢媒体曾流传过好意思国总统尼克松针对登月横祸的演讲，即是深度伪造的服从。
在韩国深度伪造性罪犯激勉等闲怜惜之前，全球多家主流媒体对这项时刻的报说念大多鸠集在政事范畴。东说念主们顾虑它可能会导致伪善信息的传播、制造社会政事不对进而极地面结巴民主。这些担忧都不无真义真义，但媒体报说念视角的筛选机制过滤了这项时刻更为骨子的影响。
英国《卫报》2018年刊发的对于深度伪造的报说念，聚焦政事范畴。
据欧洲一家科技筹谋公司Sensity近日发布的答复炫夸，咫尺全网传播的深度伪造视频中与政事磋商的内容占比不到5%，其中逾越95%的内容波及非自觉的色情内容。该答复还发现，部分深度伪造网站的视频不雅看量逾越1亿次，这类网站的内容主要对于女明星和普通女性的肉体。另外一项针对Telegram（通信软件）上生成的伪善裸照的探望则发现，逾越68万名女性的相片被从其酬酢媒体或私东说念主对话中窃取。
在此之前，深度伪造激勉鸠集筹谋是在本年年头。好意思国有名歌手泰勒·斯威夫特的深度伪造相片在酬酢媒体上飞快传播，在平台方删除相片前，该相片在全网已有约4700万次浏览。据磋商统计炫夸，其时全网已有逾越9500 个网站“寥落制作非自觉亲密图像”。在泰勒·斯威夫特成为最受怜惜的受害者之前，这项时刻其实仍是颠覆了好多东说念主的生存。
《恋东说念主：泰勒·斯威夫特巴黎演唱会》剧照。
作者劳拉·贝茨（Laura Bates，Men Who Hate Women）在书中线路，曾有男性给她发过磋商图片或视频，影像中的她看上去好像在进行多样性行径。她说，东说念主们很难交融这种作念法的影响，即使东说念主们知说念这些都不是确实。“在别东说念主顶点厌女的幻想中看到我方超推行的形象，这让东说念主很畏缩。”贝茨曾描写说：“那确实很有辱东说念主格，相当出丑。它会一直留在你心里。”贝茨还补充说，那些内容可能会被数百万东说念主看到。
“这是终端女性的新模式。”贝茨以为，这一溜为的主张是让女性闭嘴。固然男性也不行避免于其他式样的东说念主工智能生成图像的侵害，但深度伪造色情作品绝大多半针对的仍然是女性。一项研究标明，与处于相哀怜况的女性受害者比拟，男性受害者对所发生的事厚谊到的羞耻感更少，自责感也更少。且男性受害者在报案时示意，警方积极回复的比例高于女性。当女性举报磋商行径时得到的回复也更负面，咫尺通行的社会不雅念仍然以为女性应该作念更多事情来避免苛虐，也即是所谓的“受害者责备”。尤其是当泰勒·斯威夫特也遭到深度伪造攻击时，这似乎在向所有女性开释一个信息：岂论你是谁，岂论你有多雄壮，有多见效，当下所处的这个宇宙都仍然会找到一种模式来玷辱你。
往常六年间，深度伪造与东说念主工智能民众亨利·阿杰德（Henry Ajder）曾深入不雅察过这项时刻使用者的特质，以及他们相互互动的模式。“不错确定的是，绝大多半东说念主都是男性。我以为好多针对名东说念主的东说念主都是为了性得志。他们常常会使用相当厌恶女性的话语——这可能是为了性得志，但同期也伴跟着一些对女性相当可怕的想法。”阿杰德称，这些图像和视频制作东如若当作“攻击性色情”技能。“它也被用来针对女性政客，试图让她们保执千里默、勒索她们。它确乎体现了女性仍是濒临的许多挑战，但提供了一种全新的、相当有劲的火器，使女性失去‘东说念主性’并被物化。”
图片：ic photo.
跟着东说念主工智能时刻的束缚发展，问题正在变得愈加严重。好意思国有线电视新闻网刊发专题指摘指出，这种攻击并不仅指向公世东说念主物。试想这么一个情境，一个被暗恋对象拒绝的男性可能会邀请其他东说念主沿路不雅看暗恋女孩的深度伪造视频。这一假定在近日曝出的多起韩国深度伪造性罪犯案件中被反复印证，大多案件波及熟东说念主作案，“一些受害者以至即是加害者的母亲、姐妹、表亲或熟东说念主”。另有韩国媒体发现，某个制作与传播深度伪造色情内容的Telegram群组有大致22万名成员，其传播范围之广被以为是第二次“N号房事件”。
乔治华盛顿大学造就玛丽·安妮·弗兰克斯博士寥落研究民权、科技和言论解放。她在该著作中提醒读者：这类应用法子和东说念主工智能用具可能会导致新一代年青东说念主产生“我的愿望即是东说念主工智能的命令”的心态。在这些收罗空间中，男性对女性肉体的特权感常常都备不受料理。用户们相互依赖，营造出一种错觉——即他们是寰宇之王，他们无需听命于任何东说念主。他们以至以为制作和传播被算法火器化的攻击性色情内容仅仅一种个东说念主醉心。“如果咱们不注意，咱们不仅会创造新一代的受害者，还会创造新一代的施虐者。”
收罗性罪犯的升级：
当仇恨与逸想并存
早在韩国曝出磋商案件前，韩国女性的安全感就永恒处于低位。有记者整理韩国查抄厅公布的统计数据，指出2018年韩国性罪犯发生数1370件，但从2022年已破碎1万件；在总体性罪犯型态的排名与比例中，收罗性罪犯也从2018年名轮番5位、仅占4.5%，上升到2022年的第2位，占27.2%，仅次于性扯后腿。越来越多女性拒绝参预传统的父权制式家庭，反映西洋流行的#boysober（编者注：直译为“男孩明白”，指女性给我方设如期限，不跟男性约聚，不跟男性发素性行径，让我方处于脱离男性性缘关系的环境）高潮。韩国互联网上保守化潮水日益显豁，不少男性为“非自觉独身者”（Incel，Involuntary celibate），他们在日常生存中大多与女性莫得太多战役，但会在虚构宇宙匿名发表带有侮辱性的言论。
深度伪造性罪犯的激增被以为与近些年执续流行的这波“非自觉独身”文化密切磋商。该词的流行还要致密到2014年，好意思国别称自称“非自觉独身者”的22岁后生，在加利福尼亚州拉维斯塔发动恶性事件，最终导致六东说念主物化，十四东说念主受伤。他在随后留住的一封长达137页的宣言中抒发了我方从未发生过性行径的盛怒与归咎。这股心思成为如今收罗厌女的泉源，部分言论将女性视为应该盲从男性的性对象，以为女性低于男性，并隐含对性和女性肉体的“惊东说念主职权感”。
尽管近些年激勉怜惜的这些性别案件大都以互联网为绪言，但总体上并未脱离由来已久的厌女逻辑，以至在东说念主工智能等时刻的加执下，日益显现出对泉源的复兴。爱尔兰作者杰克·霍兰（Jack Holland，《厌女简史》）梳理历史时发现，这一偏见不竭千年深邃，主要与女性和男性之间关系的复杂性磋商。男性贱视女性的内核在于男性对女性的懦弱，这种懦弱着手于他们相识到两性间的各异，且以为这种各异存在潜在胁迫。“对男性而言，女性是原初的‘他者’——‘非我’。东说念主们常有一种倾向，将任何被归类为他者的东说念主变成替罪羊……但与此同期，女性还负担一个更复杂的问题——她是一种永不行被扼杀在外的‘他者’。”
这种相反相成的二元不雅念早在古希腊、罗马时候就形塑了其时社会对男女关系的张皇。柏拉图和亚里士多德先后让性别偏见得到玄学和科学上的认同。以柏拉图为例，他本东说念主的性别不雅念逻辑复杂且鬻矛誉盾。柏拉图一生单身，他真贵男东说念主对男东说念主的“纯”爱，以为这要高于男东说念主对女东说念主的爱，后者更接近于兽欲。这为基督教的东说念主类腐化传奇提供了径直的玄学基础，在这套推演下，恰是因为当作女性的夏娃的侵略，才结巴了男性与天主之间的协调关系。其中信得过的懦弱在于，他们不得不相识到“东说念主根底不是自主自治的，而是有所依附的”。
当仇恨与逸想以这么一种式样并存时，它诬蔑了自后好多男性对女性的想法。在维多利亚时期，这一偏见曾以一种颠倒薄情的模式外化。其时流行的不雅念将女性奉为“无性”的天神，同期贬黜女性的天性。不少维多利亚时期的男性对幼女十分狂热，在杰克·霍兰看来，这其实代表着男东说念主无法与成年女性设置平素的两性关系，于是这种深刻的性欲远隔不可阻碍地导向了另一个出口。尔后民众熟知的几位性别偏见的坚实拥趸，如希特勒、叔本华、尼采等东说念主，简直都是与社会疏离且在性关系方面莫得安全感的男性，他们从未与女性设置老到且厚实的亲密关系，也从未领有过冷静的家庭生存。
然则，这种根源于古希腊、罗马的性别偏见近些年却驱动在收罗空间复兴。在好意思国第五大网站Reddit上，最有影响力的男性论坛“红药丸”（The Red Pill）诱导了数十万名男性成员入驻。这些男性将“发现宇宙对男性事实上何其不公的想想更动经过”，神情为“吞下《黑客帝国》中通往真相的红药丸”。正如多娜·扎克伯格断言：“在21世纪，对于古代希腊罗马历史遗产最有争议况兼最迫切的筹谋，不在体裁、戏剧、学术这些传统范畴中发生，而在互联网上。”这些躲在“男性空间”匿名牌之后的男性，正在以多种模式使用、以至花消古典宇宙的想想资源，从中寻找笔据复古他们的逻辑。
电影《黑客帝国》（1999）剧照。
“柏拉图是一个时期之子，这一时期依旧与咱们同在。”英国玄学家卡尔·波普尔曾如斯预言。当年，在饥馑、弹压、审查和公民流血事件的社会布景下，柏拉图曾意欲在感官宇宙以外寻找一个更“高”的宇宙。千年之后，那些无法在简直宇宙与异性设置健康关系的男性，沿着同样的逻辑作念出了顶点的“选择”。好意思国专注流行文化与政事的新闻网站《逐日野兽》（The Daily Beast）发布指摘称，在东说念主工智能生成用具流行之前，非自觉独身文化就仍是存在，现在它们正在成为主流。“与其说是东说念主们笃信这些图片是简直的，不如说即是纯正的归咎。”
对此，在网上长大的年青一代男性大致感叹更深。好意思国一份由加州大学欧文分校学生创办的自在刊物《蚁读者》（The AntReader）发文以为，这波回潮的信得过问题在于，年青男性并莫得摄取步履设置平正的社会——他们堕入了一种带有偏见的想维模式，这种想维模式会给他们带来一种社区感。这反过来又为女性创造了一种充满敌意的收罗环境，最终可能导致（简直的）暴力罪犯。
尾声：
时刻是用具，却不是谜底
导向简直罪犯的可能性是深度伪造性罪犯激勉如斯大范围恐慌的原因。维也纳大学玄学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详备分析了这类内容如何让东说念主们产生情愫梦想。“当学生对同学进行深度伪造时，这可能会窜改他们对对象的想法，并在推行生存中酿成进一步的不尊重、扯后腿以至苛虐。当这些对特定女性产生的情愫梦想，导致对所有女性的梦想时，偏见就会进一步强化。”
女性遭受磋商“攻击性色情”的后续遭逢也值多礼贴。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性陈说了她们成为色情攻击受害者的故事——一东说念主被褫夺了家庭关系，因此无法完成学业；另一东说念主则失去了职责。在印度，别称记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情谴责。这些报说念散见于多个国度。此外，还有不仙女性受访者称，在成为这些收罗性暴力筹算后，她们很难保管或找到职责。
图片：ic photo.
咫尺的逆境在于，时刻发展的速率仍是远远逾越立法的速率。以韩国为例，现存法律对出于传播主张制作深度伪造内容的东说念主、以及试图通过传播这些内容来获取经济利益的东说念主都有一定的惩治条例，但咫尺并莫得磋商法律拒绝购买、存储或不雅看深度伪造的内容。探望东说念主员需要取得法院批准智商用私密身份参预深度伪造聊天室，况兼，他们仅仅在收到未成年东说念主遭到性苛虐的举报后智商进行这类探望。这个经过也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它仍是消散了，”韩国国度窥伺局收罗罪犯高档探望员咸永玉在接受《纽约时报》采访时示意。
杜伦大学法学造就、图像花消民众克莱尔·麦克格林（Clare McGlynn）这些年也在与同业执续号令修改图像罪犯磋商法律，“但咱们基本上是在向虚空高歌”。麦克格林评释说，这些年，政府方面一直以为伪善图片和影像辛苦的危害不大，莫得信得过与受害者交谈。立法的逻辑更怜惜性行径是否简直发生，而不太注重受害者的感受。“这些收罗性罪犯行径莫得被负责对待，东说念主们如故莫得相识到这种伤害可能是潜入且罢休性的——它不会瞬息发生，你也许不错试着克服它，链接生存，但它总有可能从头出现在网上。”
麦克格林还指出，现存法案的设定大都忽略了平台的包袱。尽管平台方示意对磋商深度伪造内容摄取“零容忍”，但在一份深度伪造图像或视频被删除前，仍是少见千万次浏览量时，这么的态度就显得有些“贫乏”。
回到本年头泰勒·斯威夫特的遭逢。其时平台方以“优先考虑安全”为名，良晌屏蔽了全平台对于“Taylor Swift”的搜索服从，暂时让她“隐形”。这一举动被以为传递了一个危境的信号：“如果咫尺世上最有影响力的女性之一都必须要在网上消散，智商保证安全，那这对其他东说念主而言意味着什么？”
当互联网时刻迭代束缚将东说念主类合座带向一个愈加互联互通的改日时，从“红药丸”的出现到深度伪造性罪犯的激增，这似乎在突显另一种相反的趋势。正如“脸书”创办东说念主马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能慢慢加深对女性鸿沟的侵犯。两性对等如何完毕这一生界上最陈腐的偏见？赫然时刻自己不会天然则然提供谜底。
本文参考鸠集：
1.Inside the Taylor Swift deepfake scandal: ‘It’s men telling a powerful woman to get back in her box’
https://www.theguardian.com/technology/2024/jan/31/inside-the-taylor-swift-deepfake-scandal-its-men-telling-a-powerful-woman-to-get-back-in-her-box
2.Opinion: The Taylor Swift AI photos offer a terrifying warning
https://edition.cnn.com/2024/01/31/opinions/taylor-swift-deepfakes-ai-segall/index.html
3.Why Mainstream Media Overlooks the Gendered Impacts of Deepfake Tech
https://endcyberabuse.org/why-mainstream-media-overlooks-the-gendered-impacts-of-deepfake-tech/
4.Deepfakes as a Security Issue: Why Gender Matters
https://wiisglobal.org/deepfakes-as-a-security-issue-why-gender-matters/
5.How Artificial Intelligence Is Fueling Incel Communities
https://www.thedailybeast.com/how-artificial-intelligence-is-fueling-incel-communities
queen card 裸舞6.Cyberbullying girls with pornographic deepfakes is a form of misogyny
https://theconversation.com/cyberbullying-girls-with-pornographic-deepfakes-is-a-form-of-misogyny-217182
7.Incel culture and misogyny online affects everyone
https://theantreader.org/2024/03/13/incel-culture-and-misogyny-online-perverts-everyone/
8.《韩国深伪色情罪犯激增，厌女文化孕育收罗性暴力》
https://cn.nytimes.com/asia-pacific/20240913/south-korea-deepfake-videos/
作者/申璐
编订/走走妹妹情色电影