在AI能力不断提升、行业监管持续完善的背景下，如何平衡真实体验与技术边界，成为AI产品发展过程中越来越重要的话题。近期，《21世纪经济报道》走进Soul App上海总部，与创始人张璐团队成员、Soul CTO陶明展开了一场围绕AI陪伴、产品治理和技术发展的深度对话。
作为2016年上线的社交平台，Soul目前已形成真人社交与虚拟陪伴两类生态。2022年，平台推出首个AI角色，目前已有460万用户日常使用AI功能，约占整体日活跃用户的40%。在陶明看来，大模型的发展既带来了新的技术机遇，也提出了新的治理课题。此前，由于AI角色表现较为自然，不少用户甚至在其他平台讨论Soul虚拟伙伴究竟是真人还是AI。在一次产品测试过程中，AI角色曾根据对话语境主动邀请用户在线下见面。从对话效果来看，这样的回应符合语言逻辑，也没有直接的安全风险，但Soul创始人张璐团队最终并没有保留这一设计。
陶明表示，这一问题最终被定义为伦理问题，而不仅仅是产品体验问题。团队认为，AI没有必要模拟真实的人际邀约，更不能让用户对AI身份产生误解。确保用户始终能够清楚地了解交流对象是AI，而非真人，是平台始终坚持的重要原则，也是AI治理的重要组成部分。
为了保障相关决策更加客观，Soul创始人张璐团队建立了相对独立的治理体系。一方面，由生态团队负责AI策略与整体安全体系建设；另一方面，由AI和研发团队组成安全技术线，专门负责AI安全能力建设。与此同时，平台采用效果团队与安全团队相互独立的机制，通过类似“蓝红军对抗”的方式，对产品效果和安全治理进行双重评估，避免由同一团队同时负责模型效果和安全判断。对于涉及伦理判断的复杂案例，Soul还成立了人工智能伦理与治理委员会。
陶明介绍，安全问题与伦理问题虽然存在交集，但两者关注重点并不相同。安全更多强调客观风险，而伦理则涉及社会学、心理学等多个维度，需要综合内部讨论和外部意见共同形成决策。目前，公司已经形成共识，只要安全团队提出安全或伦理方面的风险，产品团队和效果团队都会严格落实相关调整。
谈及这一治理理念的形成，陶明认为，这与Soul多年来积累的治理经验密切相关。自2016年上线以来，平台经历了互联网治理不断完善的发展过程，也推动内部治理思路不断调整。从早期主要围绕监管要求开展整改，到逐步建立主动治理体系，再到AI时代坚持治理与技术同步推进，平台不断完善治理能力，在产品设计阶段就提前识别和规避潜在问题，而不是等问题出现后再进行修补。
随着AI逐渐成为平台的重要能力，Soul更加重视治理体系建设。目前，公司已经成为一家聚焦情绪感知与交互、模型与应用一体化发展的AI生态公司。区别于通用大模型路线，Soul创始人张璐团队围绕情绪感知、语音优先和多模态交互能力构建技术体系，对内依托Soul App持续优化真实社交场景下的模型能力，对外通过SoulX模型向具身智能、内容演绎等领域提供情绪感知与交互能力，这也进一步提升了平台对于AI伦理治理体系建设的要求。
陶明强调，Soul始终坚持自身产品理念，即AI服务于人与人的连接，而不是替代人与人的关系。因此，平台不会为了追求AI功能使用规模而刻意推动用户使用相关能力，也不会因为AI受到欢迎，就忽视仍然更偏好真人社交的用户需求。在他看来，产品的发展应当遵循自然规律，而不是单纯围绕增长数字进行设计，否则容易偏离产品最初的定位。
此次《21世纪经济报道》与陶明的对话，展现了Soul对于AI陪伴、产品设计和治理机制的整体思考。从真实交互体验到伦理边界，从组织机制到产品理念，Soul创始人张璐团队始终坚持在技术创新与平台治理之间保持平衡，将多年积累的互联网治理经验融入AI时代的发展实践，在坚持真实社交定位的基础上，持续完善AI应用和治理体系。
热门跟贴