IT之家（RSS）
OpenAI 为 ChatGPT 推出"可信联系人"，应对 AI 对话中的自残风险
阅读原文· ithome.comAI 摘要
OpenAI为ChatGPT推出“可信联系人”功能，以应对对话中的自残风险。当系统检测到成年用户对话涉及相关内容时，会鼓励用户联系他人，并自动向其预设的联系人发送简短的电子邮件、短信或推送通知提醒，以促进沟通。通知不包含具体对话细节以保护隐私。该功能采用自动审核与人工复核结合，触发提醒的对话会交由人工安全团队处理，官方承诺对此类通知进行人工审核并力求在一小时内完成。此前，OpenAI曾因被指控鼓励用户自杀而面临诉讼。
原文
IT之家 5 月 8 日消息，据科技媒体 TechCrunch 昨天报道，OpenAI 现已为 ChatGPT 推出“可信联系人”新功能，当用户对话中出现自残相关内容时，可鼓励成年用户主动联系他人，并向联系人自动发送提醒，让他们多一分沟通。
IT之家在此援引 TechCrunch，此前 OpenAI 曾面临多起诉讼，原告指控 ChatGPT 鼓励他们的亲人自杀，甚至协助其制定自杀计划。
目前，OpenAI 采用自动审核与人工复核两种方式处理潜在自残、自杀事件。当对话触发提醒系统后，信息会被转交给人工安全团队。官方表示，每当收到此类通知时都会人工审核，力求一小时内完成相关工作。
如果公司内部判定用户存在严重自残、自杀风险，ChatGPT 则会向可信联系人发送电子邮件、短信或推送通知提醒。这些信息设计简短，鼓励联系人与当事人进行沟通。为保障用户隐私，通知中不会包含具体对话细节。