新泽西州一所高中的真实学生的假裸照引发了轩然大波 - 华尔街日报
Julie Jargon
当新泽西州威斯特菲尔德高中的女孩们发现男孩们在群聊中分享她们的裸照时,她们感到震惊,不仅因为这是一种侵犯隐私的行为。这些图片并不是真实的。
学生们表示,一名或多名同学使用了由人工智能驱动的在线工具制作了这些图片,然后与他人分享。这一发现在威斯特菲尔德引发了愤怒,这是纽约市郊一个富裕的小镇。
随着免费或廉价人工智能工具的普及,数字篡改或伪造的图片和视频也随之激增。尽管从奥普拉·温弗瑞到教皇方济各等名人的类似图片引起了媒体关注,但专家表示,绝大多数伪造图片都是色情的。
对于这些图片的合法性以及如何惩罚制作者的问题缺乏明确的界定,家长、学校和执法部门都在努力追赶人工智能的步伐。
该高中在一封发给家长的电子邮件中确认了这一事件,但威斯特菲尔德公立学校的一位女发言人拒绝透露涉及的学生人数,也不确认是否已经采取了任何纪律行动,理由是涉及学生的保密问题。
一些威斯特菲尔德的家长表示,她们的女儿感到受辱和无助,并担心这些图片将来可能会曝光给她们带来的伤害。她们对于没有得到解决感到不满。
即使在家长中也没有达成一致意见。在当地的Facebook群中,一些人要求严厉惩罚制作这些图片的人。而另一些人认为这是年轻人的过错,应该予以宽恕。
辩论及其后果可能会持续数月。韦斯特菲尔德警方正在调查,一位州参议员已要求县检察官调查此案。
耳语
韦斯特菲尔德高中的二年级男生在10月16日星期一表现得“奇怪”,彼此低声交谈,比平常安静,一位母亲回忆起她的女儿(一位同学)告诉她的情况。
女生开始提出问题,这位母亲说。最后,10月20日,一个男生告诉一些女生他们低声交谈的原因:至少有一名学生使用了一个人工智能网站,利用在网上找到的女生照片制作了色情图片,然后在群聊中与其他男生分享。韦斯特菲尔德的女生向学校管理人员报告了这种情况,学校开始对可能知道更多信息的男生进行访谈。
在10月20日给家长的一封电子邮件中,韦斯特菲尔德高中校长玛丽·阿斯芬迪斯(Mary Asfendis)表示她相信这些图片已被删除,不会再传播。
“这是一个非常严重的事件,”阿斯芬迪斯写道。“新技术使得伪造图片成为可能,学生们需要了解这些行为可能给他人造成的影响和伤害。”她承诺继续教导孩子们如何负责任地使用技术。
据家长称,一些女生被学校管理人员告知一些男生已在生成的图片中辨认出她们。学区发言人拒绝透露学校工作人员是否已查看这些图片。
《华尔街日报》采访的女生家长(其中四人向当地警方报案)表示她们和她们的女儿都没有看到这些图片。根据一位了解调查情况的人士称,警方也没有看到这些图片。
“看到年轻女孩在她们脆弱的生活阶段受到创伤是很难忍受的,”韦斯特菲尔德市市长雪莉·布林德在接受采访时说道。作为该镇的第一位女市长,她自称长期以来一直是妇女和女孩的倡导者。
曾担任HBO执行人员的布林德鼓励受到这种情况影响的人向警方提供证词。韦斯特菲尔德镇的一位女发言人表示警察局不愿置评。
多萝塔·马尼说她14岁的女儿弗朗西斯卡被学校告知她的照片被使用了。
“我对这种情况何时以及如何会浮出水面感到恐惧。我的女儿有一个光明的未来,没有人能保证这不会对她的职业、学业或社交产生影响,”曾向警方报案的马尼说道。她表示不希望她的女儿和制作这些图片的任何人在同一所学校上学。
只需一部手机
数字欺凌在美国各地的学校中普遍存在。智能手机及其内置摄像头已经使数字骚扰的伤害变得更加深远和持久。尽管多年来人们一直能够使用Photoshop和类似软件来篡改图像,新的AI图像生成器使得轻松制作完全虚假的照片成为可能。而任何图像都可以通过几次点击轻松地在社交和消息平台上广泛传播。
“几年前你可能需要一整组计算机来生成图像。现在你只需要一部iPhone,”与公司和政府机构合作以检测AI生成虚假图像的Reality Defender首席执行官本·科尔曼说道。
大公司的图像生成器——如OpenAI的Dall-E和Adobe的Firefly——都有审查设置,禁止用户创建色情图像。但是,快速的在线搜索结果显示出了许多换脸和“脱衣”工具。由于这些服务可能使用公开可用的开源软件,审查和技术防护措施很难,甚至是不可能的,Colman说。他补充说,人眼几乎不可能区分真假。
根据图像检测公司Sensity AI的数据,超过90%的这类虚假图像被称为“deepfakes”,都是色情内容。包括Snap和TikTok在内的科技公司已承诺与政府机构合作,阻止这类图像的传播。Snap和其他公司表示,他们禁止生成未成年人的AI色情图像,并向国家失踪和被剥削儿童中心报告这些图像。
‘严重犯罪’
法律专家表示,真人的虚假性爱图像是如此新颖,以至于联邦法律滞后。包括弗吉尼亚州、加利福尼亚州、明尼苏达州和纽约州在内的少数州已经禁止传播虚假色情内容,或赋予受害者在民事法庭起诉创作者的权利。
新泽西州参议员Jon Bramnick正在调查是否有任何现行州法或待审议法案可以将创作和分享这类材料定为犯罪。如果没有,他表示打算起草一项法案。
“这在新泽西州一定是一种严重的犯罪,”他说,并补充说他已要求联合县检察官调查Westfield High的案件。
芝加哥知识产权律师Natalie Elizaroff表示,涉及儿童性虐待材料的法律可能适用于这种情况,因为它们禁止数字图像、计算机图像甚至计算机生成的未成年人从事性行为的图像。她补充说,该案件将由州或联邦检察官处理,他们将必须证明所描绘的人是未成年人,内容是明确的,并且有人创造、拥有或分发了它。
拜登政府本周在一项关于人工智能的广泛行政命令中呼吁防止生成式人工智能制作儿童性虐待材料或“真实个人的非自愿亲密图像”。
涉及虚假色情描绘高中学生的另一起美国案件导致了刑事指控。今年4月,一名22岁的长岛男子因制作并发布了虚假图像,描绘了他以前学校的女性,并附有个人身份信息,被判处六个月监禁。原始照片是这些女性在中学和高中时拍摄的。
删除社交媒体
在她家举行的一次会议上,Mani的女儿Francesca描述了她和其他Westfield High School女孩正在经历的事情。
“起初我哭了,然后我决定我不应该伤心,”她告诉这个团体。“我应该生气,并且应该为自己和其他受害者发声。”
在与会者中有其他学生的父母,以及布林德(Brindle)、布兰尼克(Bramnick)、三名女性市议会成员和一名学校董事会成员。(《华尔街日报》受邀通过电话收听。)
弗朗西斯卡说,在当天的学校团体辅导会上,一些女孩表示,她们不愿意与她们认为制作并分享这些图片的人一起上学。
她说,这一事件让一些女同学重新考虑了她们在网上发布的内容,因为她们对自己的内容如何被使用几乎没有控制权。她说,一些人删除了她们的社交媒体账号。
她告诉团体说:“我们知道外面有一些恶心的家伙,”“但你从来没有想过你的同学会像这样侵犯你。”
—有关家庭和科技专栏、家庭相关技术问题的建议和答案,请订阅我的每周简讯。
请写信给朱莉·贾戈恩,邮箱为[email protected]
刊登于2023年11月4日的印刷版上,标题为“虚假裸照事件震撼学校”。