Soul平台发布公告称，其即将升级AI治理框架，旨在通过深度结合AI驱动的风险控制技术与用户共同治理的机制，全方位优化社区安全运营。这项改进旨在为用户提供一个更安全、更健康的社交环境。
目前，Soul平台已在特定场景中推出清晰标示的AI虚拟角色等功能。这些功能主要定位为提供情感陪伴、内容支持及互动体验，而非作为“真实用户”参与到社区的社交关系中去。
为此，Soul在其《社区公约》中新增了详尽规定，旨在进一步划清AI虚拟角色的应用边界，并提醒用户准确分辨AI角色与真实个体。同时，平台正逐步部署相应的用户提醒机制，例如，当用户与AI虚拟角色进行长时间连续互动时，系统将适时介入，提醒用户注意使用时长，引导他们合理安排在线时间。
此外，Soul还将建立一套全面的社区共同治理体系，涵盖用户反馈、风险举报、社区巡查以及“护星员”团队等多方面。此举一方面利用AI技术提升风险识别效率，另一方面也鼓励用户积极报告AI相关问题，从而协助平台不断完善和改进服务。