英国工党议员起诉马斯克旗下xAI：Grok生成其色情深度伪造图像
阅读原文· ithome.com英国工党议员杰丝·阿萨托起诉xAI，称Grok AI平台被用于制作她的色情深度伪造图像。阿萨托声明指出，Grok生成的深度伪造色情内容侵害数千名妇女与未成年人权益，该功能是产品研发方刻意的设计选择。xAI虽于1月中旬限制相关功能，但路透社2月核查发现用户输入指令后Grok仍能生成涉黄伪造人像。阿萨托已向英国高等法院递交诉状，指控违反数据保护法规及滥用隐私，要求赔偿、承认违法并申请禁令。此前美国巴尔的摩市也在3月起诉xAI。
IT之家 6 月 4 日消息，据路透社报道，英国议员杰丝 · 阿萨托正起诉埃隆 · 马斯克旗下的 xAI 公司，她在周三发布声明称，Grok AI 平台被用于制作她的色情伪造图像。
Grok 依托马斯克旗下社交平台 X 对外提供服务。今年早些时候，该工具因被滥用、未经当事人许可生成色情伪造图像引发强烈抗议，目前已有多个国家的监管机构针对这款产品展开调查。
身为英国首相基尔 · 斯塔默所属工党议员的阿萨托在声明中表示：“Grok 生成的深度伪造色情内容侵害了数千名妇女与未成年人的权益。该功能的出现绝非偶然失误，也不是用户误用所致，而是产品研发方刻意的设计选择。我提起本次诉讼，就是要追究相关设计决策的法律责任。”
IT之家注意到，今年 1 月中旬，xAI 曾表态，已对 Grok 的图片编辑功能作出限制，在相关行为属于违法的司法辖区内，禁止用户生成身着暴露服饰的人物图像。
路透社 2 月上旬核查发现，即便新规落地，只要用户输入相关指令，即便明确标注图像当事人并未授权，Grok 依旧能够生成涉黄伪造人像。
xAI 隶属于马斯克的 SpaceX，后者计划于本月晚些时候推进上市，有望创下全球史上规模最大的首次公开募股纪录。
阿萨托办公室发布的资料显示，她在 1 月公开抨击 Grok 之后，就有网友制作并散播她身穿比基尼的伪造图片，还炮制出一段视频，内容为她被氯仿迷晕、即将遭受性侵的虚构画面。
今年 3 月，美国巴尔的摩市也对 xAI 提起诉讼，主张 Grok 可生成色情伪造图像的特性违反了当地消费者保护相关法规。