英国工党议员起诉马斯克旗下xAI:Grok生成其色情深度伪造图像
阅读原文· ithome.com英国工党议员杰丝·阿萨托起诉xAI,称Grok AI平台被用于制作她的色情深度伪造图像。阿萨托声明指出,Grok生成的深度伪造色情内容侵害数千名妇女与未成年人权益,该功能是产品研发方刻意的设计选择。xAI虽于1月中旬限制相关功能,但路透社2月核查发现用户输入指令后Grok仍能生成涉黄伪造人像。阿萨托已向英国高等法院递交诉状,指控违反数据保护法规及滥用隐私,要求赔偿、承认违法并申请禁令。此前美国巴尔的摩市也在3月起诉xAI。
IT之家 6 月 4 日消息,据路透社报道,英国议员杰丝 · 阿萨托正起诉埃隆 · 马斯克旗下的 xAI 公司,她在周三发布声明称,Grok AI 平台被用于制作她的色情伪造图像。
Grok 依托马斯克旗下社交平台 X 对外提供服务。今年早些时候,该工具因被滥用、未经当事人许可生成色情伪造图像引发强烈抗议,目前已有多个国家的监管机构针对这款产品展开调查。
身为英国首相基尔 · 斯塔默所属工党议员的阿萨托在声明中表示:“Grok 生成的深度伪造色情内容侵害了数千名妇女与未成年人的权益。该功能的出现绝非偶然失误,也不是用户误用所致,而是产品研发方刻意的设计选择。我提起本次诉讼,就是要追究相关设计决策的法律责任。”
IT之家注意到,今年 1 月中旬,xAI 曾表态,已对 Grok 的图片编辑功能作出限制,在相关行为属于违法的司法辖区内,禁止用户生成身着暴露服饰的人物图像。
路透社 2 月上旬核查发现,即便新规落地,只要用户输入相关指令,即便明确标注图像当事人并未授权,Grok 依旧能够生成涉黄伪造人像。
xAI 隶属于马斯克的 SpaceX,后者计划于本月晚些时候推进上市,有望创下全球史上规模最大的首次公开募股纪录。
阿萨托办公室发布的资料显示,她在 1 月公开抨击 Grok 之后,就有网友制作并散播她身穿比基尼的伪造图片,还炮制出一段视频,内容为她被氯仿迷晕、即将遭受性侵的虚构画面。
今年 3 月,美国巴尔的摩市也对 xAI 提起诉讼,主张 Grok 可生成色情伪造图像的特性违反了当地消费者保护相关法规。