“这种震惊是我没想到的。”
21 岁的香港大学法学院学生 L. 记得当她发现另一名学生未经同意使用人工智能为她制作色情图片时的感受。
起初，她很自责，怀疑自己是否做了什么被他误解的事情。
“当时我非常震惊，也很害怕，有一段时间我停止使用社交媒体，因为我不知道谁会看到我的照片，”L. 告诉 CBC。
据三名受害者 L.、B. 和 H 称，这名男学生的前伴侣今年 2 月借用他的笔记本电脑时发现了 700 多张照片，其中包括人工智能生成的色情图片。三人都在匿名的情况下接受 CBC 采访，因为他们不想被同学认出。
L.、B. 和 H. 说，这台笔记本电脑包含大约 20 个女性文件夹，其中包括未经她们同意而拍摄的社交媒体截图，以及使用人工智能工具创建的描绘她们裸体或性行为的露骨照片。
“定罪是向公众发出的信号，表明这种行为是公开错误的。– B.
三名香港大学法学院学生决定在 7 月份公开此事。他们设立了一个 Instagram 帐户，发布了一封详细说明所发生事件的信件。
他们说，在受到前伴侣的质问后，这名男学生承认使用社交媒体上截图的其他学生的照片，用人工智能生成面部色情图片。
H.一个香港大学最初表示一个要求他写一封道歉信，他照做了，并向他发送了一封警告信，将其保存在他的个人档案中以供内部参考。一个H.一个我认为这还不足以追究他的责任。
B. 告诉加拿大广播公司，在他们联系学校后，她仍然必须在课堂上至少见到他四次。
世界性问题
该大学后来表示正在审查这一事件，并誓言采取行动进一步行动。一个在给 CBC 的一份声明中，香港大学表示，此案仍在审查中。
香港市领导李约翰甚至参与了此案，并在 7 月份承诺研究监管人工智能的国际“最佳实践”。
MrDeepFakes 是世界上最臭名昭著的未经同意的深度伪造色情网站，直到 CBC 的视觉调查团队与合作伙伴 Bellingcat、Tjekdet 和 Politiken 一起曝光了在该网站中发挥关键作用的加拿大药剂师。任何经历过性暴力的人都可以获得支持。您可以通过加拿大政府网站 (https://bit.ly/3D1rUmb) 或加拿大结束暴力协会数据库 (https://bit.ly/3ilpp67) 获取危机热线和本地支持服务。如果您面临直接危险或担心自己或周围其他人的安全，请拨打 911。
但几个月后，三名 HUK 学生继续过着没有结束的生活。一个B.一个告诉加拿大广播公司，他们向香港平等机会委员会的投诉已结束，因为该行动并不构成该条例规定的性骚扰，而且没有足够的信息来继续调查。
在给 CBC 的一份声明中，平等机会委员会表示，“致力于以公正、公平、公正和客观的方式处理根据反歧视条例提出的查询和投诉。”
这三名女性告诉加拿大广播公司，她们还没有向警方报案，因为香港没有法律将人工智能生成的色情作品定为刑事犯罪。
该案指出了监管和监管未经同意的人工智能色情内容的全球性问题。
”曾经 [someone has] 拥有这些图像，你不会知道它们会被如何使用。它们可以被个人使用，也可以在地下或公开传播，”H 说。“你无法控制 [it]”。
B. 表示，肇事者的计算机也有可能被黑客入侵，因此无论该男学生是否愿意发布这些照片，这些图像仍然存在被广泛传播的风险。
“定罪是向公众发出的信号，表明这种行为是公开错误的，”一个B.补充道。
解决“深度造假”问题
2021年，香港通过了立法，涵盖未经同意发布或威胁发布私密图像或视频的行为，其中包括“深度假货”，即使用人工智能进行数字更改以替换一个人的面孔的图像或视频。一个这些罪行最高可判处五年监禁。
然而，这不包括他们的创造或拥有。法律专家表示，需要堵住漏洞。
在加拿大，分享未经同意的深度伪造色情内容并不构成犯罪。马克·卡尼首相承诺在 2025 年联邦竞选期间通过一项法律，将“制作和传播未经同意的性深度假货”定为刑事犯罪。
韩国去年通过了一项法律，不仅将拥有此类内容的行为定为犯罪，而且将消费此类内容的行为定为犯罪。近年来，随着此类事件激增，英国也将制作或传播露骨的深度假货定为刑事犯罪。
“裸体”应用程序一个通常会使用人工智能在未经他人同意的情况下创建虚假的人物图像。流行歌星泰勒·斯威夫特和美国民主党政治家亚历山大·奥卡西奥-科尔特斯都是未经同意的明显深度造假的受害者。
杜伦大学 (Durham University) 法学教授克莱尔·麦格林 (Clare McGlynn) 帮助起草了将色情深度造假定为非法的英国法律，他告诉加拿大广播公司，社交媒体平台必须采取更多措施。
她说这个问题越来越普遍，并提到了旧金山市检察官 David Chiu 的工作，他于 2024 年 8 月对 16 个访问量最大的网站采取了法律行动，这些网站创建了人工智能生成的未经同意的露骨图像。
他的办公室表示，诉讼所针对的网站在 2024 年上半年的访问量超过 2 亿次。今年 6 月，他的办公室表示，其中 10 个网站现已离线或无法在加州访问。律师事务所名称为运营这些网站的一些公司，包括美国的Sol Ecom 和 Briver 以及英国的 Itai Tech Ltd.
McGlynn 表示，甚至更主流的人工智能工具，例如 Elon Musk 的 Grok 聊天机器人，也“很少有护栏”。据 The Verge 报道，Grok Imagine 的新“辣”模式“毫不犹豫地吐出泰勒·斯威夫特完全未经审查的裸照视频”，甚至没有被要求制作露骨内容。
同时，Ø OpenAI的OpenAI 老板 Sam Altman 表示，流行的 ChatGPT 将很快允许色情内容。
加拿大一直在讨论监管平台，例如强迫公司删除被视为儿童性虐待的内容或未经同意共享的亲密照片和视频，包括深度伪造。
（陈文思提交）
麦格林认为，如果政府研究大型平台，他们就不需要太担心较小的平台。
“这些是门户、管道。它在 TikTok 上。男孩们看到裸体应用程序的广告……如果我们停止这种行为，那么我们就可以真正解决这个问题，”麦格林说。
材质越来越逼真
香港反妇女性暴力协会的文斯·陈 (Vince Chan) 表示，随着技术的快速发展，识别人工智能生成的内容变得越来越困难。
例如，他说，就在过去两年，识别现有色情内容中的换脸行为变得越来越困难。
“故障和扭曲更加明显 [a couple of years ago]，但现在，除非内容经过非常仔细的审查，否则结果可能会非常逼真，”他说。
去年，他的组织收到了 11 起涉及深度伪造亲密图像的帮助请求，比前一年增加了 38%。
香港隐私监管机构已对香港大学法律系学生的案件展开刑事调查。但大律师一个负责性侵犯和性骚扰受害者工作的米歇尔·黄表示，隐私专员的权力是有限的。
她说，他们的主要关注点是个人数据的披露或滥用，这使得他们很难将此案归入他们的职权范围。
黄说，香港将制作 16 岁以下儿童的假照片定为刑事犯罪，因此有一个系统来应对此类犯罪行为。
“我认为立法的初衷是儿童需要受到保护。但显然现在我们可能会看到一种趋势，即实际上 16 岁以上的成年人也应该受到相同法律框架的保护，”她说。
“互联网感觉相当无法无天”
W.,一个30、一个大约五年前，她是人工智能色情片的受害者一个并要求保持匿名，因为她不知道肇事者的身份，她记得当她的朋友在社交媒体上转发他们通过私信收到的照片时，询问是否是她。
“他们认为这是真的。我还认为这些照片看起来非常非常接近现实，包括我的面部特征，”她指着她脸上的一颗痣告诉加拿大广播公司。
W.当时说，她每天都哭，还做噩梦。她逃掉了工作，不敢出门，因为她担心发照片的人知道她住在哪里。
她也没有向警方报告，因为她担心他们会敏感地处理她的案件。
W.一个相信肇事者从她的社交媒体帐户中拍摄了照片。四年后，她仍然想知道他们的身份，并希望他们被逮捕。她仍然对不认识的男人接近她感到紧张。
虽然她很高兴人们对人工智能生成的色情内容的认识不断提高，但她对对此能做些什么感到无助。
“互联网让人感觉无法无天，”她说。“即使法律得到实施，如何执行仍然是一个更大的问题。”
