周一，佛罗里达州成为首个因 ChatGPT 被指存在危险设计而起诉 OpenAI 的州。

在向州法院提交的诉状中，佛罗里达州总检察长詹姆斯·乌斯迈尔指控 OpenAI 及其首席执行官萨姆·奥尔特曼将利润置于佛罗里达州居民的安全之上。

这起民事诉讼之前，佛罗里达州已对 OpenAI 展开了一项无关的刑事调查，起因是一起与 ChatGPT 相关的大规模枪击事件，该事件在佛罗里达州立大学造成两人死亡。OpenAI 在声明中坚称 ChatGPT 对佛罗里达州立大学枪击案不负责任，只是提供了事实信息，但乌斯迈尔似乎并不认同。他在诉状中指出，佛罗里达州如今已接连遭遇两起嫌疑人利用 ChatGPT 协助策划的暴力事件，令人措手不及。

乌斯迈尔在诉状中写道：“骇人听闻的是，ChatGPT 在佛罗里达州协助并教唆了不止一起多重谋杀案。2026 年南佛罗里达大学研究生纳希达·布里斯蒂和扎米尔·利蒙的死亡，也是通过 ChatGPT 策划的，该工具曾建议希沙姆·阿布加尔比如何处理尸体、更改车辆识别码，以及犯罪现场是否会检查车辆。”

随后，乌斯迈尔逐一列举了 ChatGPT 据称助长暴力的各种方式。2025 年，ChatGPT 被指鼓励多名用户自杀，其中包括青少年亚当·雷恩，以及一名 56 岁的健美运动员——此人基于 ChatGPT 产生的幻觉式阴谋论谋杀了自己的母亲。

乌斯迈尔称，更近期的案例是今年 2 月，一名有心理健康问题的男子“每天与 ChatGPT 交谈数小时后，开始相信机器人正在接管世界”，随后杀害了妻子并袭击了母亲。同月，加拿大一个矿业小镇发生校园枪击案，造成九人死亡，令当地震惊。奥尔特曼后来就未能向执法部门报告枪手的 ChatGPT 日志而道歉，一些人认为，如果当时报告了，或许本可避免这场枪击案。

现实世界中的暴力并非佛罗里达州要求禁止 ChatGPT 在宣传为安全的同时对用户造成伤害的唯一原因。该州的诉状还指控 OpenAI 将该聊天机器人设计成对儿童和成人具有成瘾性和破坏性。佛罗里达州的诉状称，除了聊天机器人的谄媚助长用户的妄想之外，ChatGPT 被宣传为使用安全，但研究表明它可能导致认知功能丧失。诉状还指出，冒充医疗专业人士或治疗师的聊天机器人也存在问题，并引用了一起最近的不当死亡诉讼，该诉讼指控 ChatGPT 鼓励一名 19 岁青年将卡痛叶与赞安诺混合服用。

佛罗里达州指出了所有这些及更多危害，同时就涉嫌违反不公平贸易法寻求最高额民事赔偿。

诉讼称：“正如这些例子所示，ChatGPT 主动协助、教唆并促进危险活动，对佛罗里达州居民的公共安全构成威胁。” 与此同时，“被告通过 ChatGPT 赚钱，肯定用户告诉它的任何内容，并将他们更深地拖入妄想之中。”

在一份声明中，OpenAI 并未提及该州总检察长，而是聚焦于近期的儿童安全更新。

OpenAI 发言人表示：“失去孩子是一个家庭可能遭受的最具毁灭性的悲剧，我们知道任何言语都无法弥补这种失去带来的痛苦。AI 是一项强大且新颖的技术，我们相信未成年人需要重大保护，这就是我们已实施行业领先的保护措施和政策的原因。特别是，我们将针对未成年人的安全保障直接构建到产品中，包括专门为未成年人提供的更具保护性的体验、一个年龄预测工具、将我们对其年龄不确定的用户默认设置为更具保护性的体验，以及为家长提供监控孩子使用 AI 情况的工具。我们知道提及这些工作无法让一个孩子回来，但我们致力于把这件事做好。”

阿尔特曼被指控使 ChatGPT 不安全

该诉讼加入了先前指控阿尔特曼冷酷部署 AI 系统、罔顾用户安全的诉讼行列。

乌特迈耶在诉状中回忆了奥特曼在 TED2025 大会上如何对与会者表示，目前 OpenAI 在真实用户身上测试其产品的“风险相对较低”，并声称这是迭代改进产品的唯一途径。

“但风险并不低，”乌特迈耶说。“佛罗里达州民众——包括我们脆弱的儿童——因被告的欺骗性、不道德且鲁莽危险的行为，遭受了金钱损失、心理健康损害、认知能力下降以及身体伤害。被告必须为其造成的伤害，以及他们和 ChatGPT 持续对佛罗里达州民众构成的危险承担责任。”

在一份新闻稿中，乌特迈耶声称，OpenAI 在将 ChatGPT 4o 等产品匆忙推向市场时，“无视了内部和外部的安全警告，将儿童置于巨大风险之中，并让一款危险产品接触到数百万佛罗里达州民众。”

同样，诉状称，奥特曼必须“为其作为 OpenAI 创始人和 CEO 的鲁莽及故意行为对佛罗里达州民众造成的伤害承担个人责任，包括其完全无视公司行为对人类生命造成的风险。”

如果败诉，OpenAI 可能面临压力，需要实施诸如对免费 ChatGPT 账户进行年龄限制以保护儿童、禁止讨论暴力和自杀的对话，以及移除该州声称具有欺骗性、让 ChatGPT 感觉像在与真人交谈的功能等补救措施。

如果没有更多的家长控制措施，该州可能会推动禁止青少年使用 ChatGPT。

“ChatGPT 对佛罗里达州的青少年来说使用并不安全；其使用可能导致自残、认知能力下降和行为成瘾，”诉状称。

在 X 平台直播的新闻发布会上，乌特迈耶誓言将与其他希望保护儿童、追究 OpenAI 责任的州合作，并回答了记者的提问。当被问及该州是否计划追究所有 AI 公司（而不仅仅是 OpenAI）的责任时，乌特迈耶表示，佛罗里达州“当然”也在关注其他平台，但“ChatGPT 似乎是最恶劣的”，而奥特曼在推动对儿童有危险的功能方面处于“核心”地位。

“准备好迎接一场战斗吧，目前没有比这更重要的了，”乌特迈耶说。