Soul 升级 AI 治理能力,引导用户合理安排使用时长
阅读原文· ithome.comSoul 宣布升级 AI 治理能力,将 AI 智能风控与用户共治机制结合。平台已在部分场景提供明确标识的 AI 虚拟角色,定位为情绪陪伴与互动体验,非真实用户身份。《社区公约》新增说明,明确 AI 角色使用边界,提醒用户区分 AI 与真人。当用户与 AI 虚拟角色长时间连续互动时,系统将适时提醒,引导合理安排使用时长。此外,Soul 建立包含用户反馈、风险举报、社区巡查及护星员的共治机制:AI 提升风险识别效率,用户可上报 AI 问题协助改进。
IT之家 6 月 4 日消息,Soul 发文,宣布将升级 AI 治理能力,将 AI 智能风控技术与用户共治机制深度结合,双向完善社区安全运营体系。
Soul 表示,目前平台在部分场景中已经提供了明确标识的 AI 虚拟角色等产品功能。这类功能更多被定位为情绪陪伴、表达支持与互动体验的一部分,而不是以“真实用户”身份参与社区社交关系。
围绕这一点,Soul 在《社区公约》中新增了相关说明,进一步明确 AI 虚拟角色的使用边界,并提醒用户注意区分 AI 角色与真实用户。与此同时,平台也在逐步增加相应的使用提醒机制。例如在用户与 AI 虚拟角色进行长时间连续互动时,系统会适时进行提醒,引导用户合理安排使用时长。
其他方面,Soul 还宣布将建立起包括用户反馈、风险举报、社区巡查以及护星员在内的社区共治机制。一方面,平台通过 AI 能力提升风险识别效率;另一方面,用户可以积极上报 AI 问题,从而帮助平台改进。