4月4日报道，用户向AI助手“豆包”发送私密照片请求身材评价，因违反内容安全规定导致账号被封禁。事件中，该男子将洗澡照片等不雅内容发给豆包，并要求AI对其身材进行测评，甚至有消息称其进行了视频裸露行为。此举触发平台风控机制，账号被系统判定为发送违规内容而遭停用，解封时间显示为2026年5月。
豆包官方明确表示：发送不雅内容、恶意骚扰等行为会被系统自动识别并处理，包括限制使用或永久封禁账号。尽管部分用户认为AI可完全由算法审核，但多方信息证实，平台存在“AI初筛+人工复核”双重机制——当机器无法判断敏感内容时，会推送至后台审核员进行人工核查。因此，不当内容不仅触犯规则，也可能对审核人员造成心理不适，引发伦理争议。（大象新闻）
编辑：张晚晴
