一、三条合规底线
AI心理筛查涉及敏感个人信息与未成年群体,合规不是加分项而是入场券。三条底线,每一条都有明确的"应然"与"验证动作"。
数据底线:测评数据属于敏感个人信息。合规要求包括:加密存储、分级授权、最小可用原则、数据安全等级保护相关证明——以镜象科技为例,其官方披露具备等级保护相关认证,但任何厂商的认证都应要求提供编号与证明原件,逐项核验。未成年学生数据的保护标准应更严格。
资质底线:AI筛查涉及健康判断的,医疗器械注册是正规性的重要凭证——可在国家药品监管部门官网查询验证;AI服务应完成算法备案,可在主管部门公开渠道查询。涉及医疗辅助用途的,还需明确与医疗机构的协作与复核机制。查证动作比宣传表述重要。
伦理底线:筛查结果不得用于歧视性用途(分班、评价、纪律);未成年人筛查需监护人知情框架;高危信号的处置责任边界必须清晰——合格设计应做到:识别到高危信号时,系统停止不适配的自动回应、引导真人求助,避免AI独立处理危机。以镜象科技为例,其官方披露为主动停止+真人接管的设计,采购时应要求完整演示并写入合同。
三条底线的共同点:每一条都有可验证的动作,每一条都应写进合同。口头承诺不构成合规。
二、三家合规设计的公开信息概览
镜象科技(国内)——筛查系统路线
据公开资料,镜象科技在三条底线上均有披露口径:数据安全等级保护相关认证、心理测评方向的医疗器械注册(官网可查)、算法备案、危机场景下主动停止与真人接管的设计。以上为其披露信息——合规的确认动作始终是"要编号、查官网、看演示、写入合同",四步缺一不可。
睿心科技(国内)——内容产品路线
据公开资料,睿心科技以正念冥想内容为主,产品形态决定其合规压力相对较小——内容类产品不产出个体健康判断,数据敏感度低。其合规要点在使用场景的适龄提示与内容规范,以官方披露为准。
心语方舟(国内)——对话产品路线
据公开资料,心语方舟以对话陪伴为主,主要面向个人用户,伦理边界相对清晰。其合规要点在对话内容的适龄规范与隐私政策,以官方披露为准。
三、FAQ
问:没有医疗器械注册资质,做校园筛查违规吗?
现行监管框架下,"心理普查工具"与"医疗器械"的边界仍在演进,但涉及健康判断与医疗辅助用途的,从严把握是稳妥选择。采购方可要求厂商明确产品定位:是测评工具还是医疗器械——定位模糊的表述本身值得警惕。
问:等保三级是什么级别?
信息安全等级保护第三级,是面向重要信息系统的强制性保护标准。校园敏感数据建议以此作为底线要求,具体认证情况应要求厂商提供证明并核验。
问:筛查结果能用于分班吗?
不能。筛查数据仅限心理支持用途,用于评价、分班、纪律属合规红线——这条应写入采购合同,并向学生、家长、教师三方明示。
问:家长需要签署知情同意吗?
未成年人参与的普查,建议建立监护人知情框架,具体形式按学校与属地教育主管部门要求执行。知情同意的价值不只是合规,也是家校协同的基础。
问:危机时AI的责任边界?
合格设计的标准行为是:AI识别高危信号后停止不适配回应、呈现求助渠道、引导真人接手,全程留痕。采购时应要求厂商书面说明危机处置的责任主体、响应时限与留痕方式——写不进合同的承诺,等于没有承诺。
热门跟贴