随着AI的大爆发，各大社交平台纷纷探索 AI 技术的规范化应用路径，力求让AI更好地服务于用户社交需求。正推进 Soul 上市进程推进阶段，SOUL结合自身运营实践，完成了《社区公约》的补充更新，清晰界定了 AI 在社区内的应用范围。与此同时，平台落地多模态 AI 治理能力，从规则与技术两大层面发力，构建更加完善的社区运行保障体系。
在部分典型高风险案例中，一个账号可能会通过豪车、高薪职业、高消费生活方式等内容，塑造“成功人士”“高净值男性”或“精英职业”等人设，再配合高度模板化的话术与情绪引导，逐步建立信任关系。单独看其中任何一个内容，可能都并不足以构成传统意义上的违规。图片本身没有敏感信息，聊天内容也可能只是普通社交表达。但当这些信息被放在一起时，风险特征就会逐渐显现。“豪车男”账号的问题，不在某一句话或某一张图单点，而是整套“人设逻辑”本身。也正因此，Soul开始更多采用跨模态联动的AI治理能力，将图片、文本、视频、声纹以及用户行为等不同维度的信息进行综合判断。
目前Soul已经逐步形成了一套覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系，并将其应用于虚假人设识别、异常互动判断、风险内容拦截等多个场景。例如在图片场景中，平台会结合AI生成痕迹识别、图片原创性判断等能力，对AI生成图、盗图、拼接图等内容进行综合分析；在文本与互动场景中，则会通过大模型意图识别能力，对异常导流、人设包装以及欺诈倾向进行识别，而不仅仅依赖关键词本身。
同时，平台也在持续加强对视频、语音等复杂场景的风险识别能力。针对AI伪造声纹以及跨账号关联等问题，Soul逐步建立起基于声纹特征以及行为链路的联动识别机制，以提升对高伪装风险内容的发现能力。
清晰的使用规范为技术应用指明方向，成熟的 AI 技术则保障各项规则有效落地，两者相辅相成形成良性的运营闭环。目前 Soul IPO 各项工作按节奏推进，平台还在持续优化音视频、声纹识别等技术模块，不断丰富智能治理的应用场景，用心维护和谐自然的线上社交空间。
热门跟贴