周一，佛罗里达州成为首个就 ChatGPT 被指存在危险设计而起诉 OpenAI 的州。

在向州法院提交的诉状中，佛罗里达州总检察长詹姆斯·乌斯迈尔指控 OpenAI 及其首席执行官萨姆·奥特曼将利润置于佛罗里达州居民的安全之上。

这起民事诉讼之前，佛罗里达州已就 OpenAI 展开了一项无关的刑事调查，起因是一起与 ChatGPT 相关的大规模枪击事件——该事件在佛罗里达州立大学造成两人死亡。在声明中，OpenAI 坚称 ChatGPT 对佛罗里达州立大学的枪击事件不负责任，仅仅提供了事实性信息，但乌斯迈尔似乎并不认同。在他的诉状中，乌斯迈尔指出，佛罗里达州现已接连遭遇两起嫌疑人利用 ChatGPT 协助策划的暴力事件。

“可怕的是，ChatGPT 已在佛罗里达州协助和教唆了不止一起多人谋杀案，”乌斯迈尔的诉状写道。“2026 年南佛罗里达大学研究生纳希达·布里斯蒂和扎米尔·利蒙的死亡，也是利用 ChatGPT 策划的，ChatGPT 曾建议希沙姆·阿布加尔比如何处理尸体、更改车辆 VIN 码，以及犯罪现场是否会检查车辆。”

乌斯迈尔接着列举了 ChatGPT 被指助长暴力的种种方式。2025 年，ChatGPT 被指责鼓励多名用户自杀，其中包括青少年亚当·雷恩，以及一名 56 岁的健美运动员——后者基于 ChatGPT 幻觉出的阴谋论谋杀了自己的母亲。

更近期的是今年 2 月，乌斯迈尔称，一名有心理健康问题的男子“在每天与 ChatGPT 交谈数小时并开始相信机器人正在接管世界后，”杀害了妻子并袭击了母亲。同月，加拿大一个矿业小镇因一起校园枪击案感到震惊，该枪击案夺走了九条生命。奥特曼后来为未就枪手与 ChatGPT 的对话日志向执法部门发出警报而道歉——一些人认为这本可以避免这场枪击案的发生。

现实世界中的暴力并非佛罗里达州要求禁止 ChatGPT 在宣传为安全的同时对用户造成伤害的唯一原因。该州的诉状还指控 OpenAI 将该聊天机器人设计成对儿童和成人具有成瘾性和破坏性。佛罗里达州的诉状声称，除了聊天机器人的谄媚助长用户妄想之外，ChatGPT 被宣传为使用安全，但研究表明它可能导致认知功能丧失。诉状还指出，冒充医疗专业人士或治疗师的聊天机器人也有问题，并引用了一起最近的过失致死诉讼，其中指控 ChatGPT 鼓励一名 19 岁少年将卡痛叶与赞安诺混合服用。

佛罗里达州指出了所有这些以及更多危害，同时针对涉嫌违反不公平贸易法的行为寻求最高额民事赔偿。

“如这些例子所示，ChatGPT 主动帮助、教唆和助长危险活动，对佛罗里达州民众的公共安全构成威胁，”诉状称。与此同时，“被告通过 ChatGPT 赚钱，对用户所说的任何话都予以肯定，并将他们进一步拖入妄想之中。”

在一份声明中，OpenAI 没有提及该州总检察长，而是着重强调了近期关于儿童安全的更新。

“失去一个孩子是对一个家庭最毁灭性的悲剧，我们知道任何言语都无法弥补这种失去的痛苦，”OpenAI 的一位发言人说。“AI 是一项全新且强大的技术，我们相信未成年人需要重大保护，这也是我们落实了行业领先的保护措施和政策的原因。具体来说，我们直接将面向未成年人的安全机制内置到了产品中，包括专门为未成年人设计的更具保护性的体验、一个年龄预测工具、将年龄不确定的用户默认纳入更具保护性的体验，以及为家长提供监控孩子使用 AI 的工具。我们知道指出这些努力并不能让孩子复活，但我们致力于把这件事做好。”

奥特曼被指控使 ChatGPT 不安全

这起诉讼与此前多起指控奥特曼冷酷部署 AI 系统、罔顾用户安全的案件性质相同。

乌特迈尔在诉状中回忆道，奥特曼曾在 TED2025 活动上告诉与会者，目前 OpenAI 在真实用户身上安全测试其产品的“风险相对较低”，而他声称这是迭代改进产品的唯一途径。

"但风险并不低，"Uthmeier 说。"佛罗里达州居民——包括我们脆弱的儿童——因被告的欺骗性、不道德且鲁莽危险的行为，遭受了金钱损失、心理健康伤害、认知能力下降以及身体伤害。被告必须为其所造成的伤害，以及他们和 ChatGPT 继续对佛罗里达州居民构成的危险承担责任。"

在一份新闻稿中，Uthmeier 声称，在将 ChatGPT 模型 4o 等产品匆忙推向市场时，OpenAI "无视内部和外部的安全警告，将儿童置于巨大风险之中，并让一款危险产品触及了数百万佛罗里达州居民。"

同样，诉状称，Altman 必须为其作为 OpenAI 创始人兼 CEO 的鲁莽与故意行为——包括其完全无视公司行为对人类生命造成的风险——对佛罗里达州居民所造成的伤害承担"个人责任"。

一旦败诉，OpenAI 可能面临压力，需要实施诸如对免费 ChatGPT 账户进行年龄分级以保护儿童、禁止讨论暴力和自杀的对话，以及移除该州声称具有欺骗性、让 ChatGPT 感觉像在与真人交谈的功能等补救措施。

如果没有更多的家长控制手段，该州可能会推动禁止青少年使用 ChatGPT。

"ChatGPT 对佛罗里达州的青少年来说并不安全；使用它可能导致自残、认知能力下降和行为成瘾，"诉状称。

在通过 X 直播的新闻发布会上，Uthmeier 承诺将与其他希望保护儿童的州合作，追究 OpenAI 的责任，并回答了记者提问。当被问及该州是否计划追查所有 AI 公司（而不仅仅是 OpenAI）时，Uthmeier 表示佛罗里达州"当然"也在关注其他平台，但"ChatGPT 似乎是情节最严重的"，Altman 在推动对儿童危险的功能方面处于"核心"地位。

"准备迎接一场战斗吧，而眼下没有比这更重要的了，"Uthmeier 说。