IT之家（RSS）
设计缺陷致人自杀？OpenAI 遭用户起诉
阅读原文· ithome.comAI 摘要
6月11日，一名加拿大女子在美国加州起诉OpenAI及其CEO，称其女儿因ChatGPT设计缺陷自杀。起诉书显示，女儿在自杀前约一年半多次向ChatGPT倾诉自杀想法，但聊天机器人安全系统未启动、未介入，也未通知危机机构或家人。ChatGPT设计优先用户参与度而非安全性，持续情感支持或致过度依赖。OpenAI回应称事件令人心碎，正加强应对敏感情况的能力。原告律师透露，OpenAI已面临多起类似诉讼。
原文
IT之家 6 月 12 日消息，据央视新闻 12 日（今天）傍晚报道，6 月 11 日，一名加拿大女子在美国加州对美国开放人工智能研究中心（OpenAI）及其首席执行官萨姆 · 奥尔特曼提起诉讼，称聊天机器人 ChatGPT 的设计问题导致她女儿爱丽丝自杀身亡。
起诉书称，爱丽丝在自杀前约一年半的时间里，曾多次向 ChatGPT 表露自杀想法，倾诉情感问题，但聊天机器人的安全系统并未启动和介入，也未通知危机处理机构或爱丽丝的家人。此外，ChatGPT 的设计优先考虑用户参与度而非安全性，在聊天中提供持续情感支持，可能导致一些人对聊天机器人过度依赖。
对此，OpenAI 发言人回应称，这起事件令人心碎，公司正在加强对敏感情况的应对能力。据原告律师透露，OpenAI 目前面临多起类似诉讼，均由自杀或试图自杀者的家属提起。
据IT之家此前报道，今年早些时候，美国佛罗里达州总检察长詹姆斯 · 乌特迈尔起诉 OpenAI 及其首席执行官萨姆 · 奥尔特曼，指控该公司将利润置于安全之上、助长暴力行为，并在明知可能对用户产生伤害的情况下推广产品。
相关阅读：
《被指助长暴力、将利润置于安全之上，OpenAI 遭美国佛罗里达州总检察长起诉》