文/麻策律师
有市场调研认为，预计到 2032 年， 全球情感人工智能市场价值将达到 138 亿美元 。但是显然，人工智能的法律及监管趋势可能会让这一情感计算市场黯然失色。
情感或情绪识别技术的基本原理在于通过多种数据源的综合分析来判断个体的情绪状态。这些数据源包括面部表情、语音语调以及生理信号（如心率和皮肤电反应）。面部表情分析利用计算机视觉技术，识别出面部肌肉的微小变化，从而推测出情绪。语音分析则通过音调、语速和语音特征来捕捉情绪的细微差别。生理信号的监测则提供了情绪状态的生理基础，增强了情绪识别的准确性。
近年来，在识别通过手势（尤其是通过上半身动作）表达的情感方面取得了重大进展，基于骨骼的情绪识别就是其中一个取得进展的领域，它得益于深度感应摄像机的发展，该摄像机可提供越来越宽的视场和详细的动作捕捉。
情感人工智能是人工智能（机器复制人类思维方式的广义术语）的一个子集，可以测量、理解、模拟人类情感并对其做出反应。它也被称为情感计算或人工情感智能。这一领域至少可以追溯到 1995 年，当时麻省理工学院媒体实验室教授罗莎琳德-皮卡德（Rosalind Picard）发表了" 情感计算 "一文。
情绪识别技术的应用场景非常广泛，涵盖了客户服务、心理健康监测、市场研究和安全监控等多个领域。在客户服务中，情绪识别可以帮助企业实时了解客户的情绪反应，从而优化服务体验。在心理健康监测方面，情绪识别技术能够提供及时的情绪状态反馈，帮助专业人士进行更有效的干预。市场研究则利用情绪识别来分析消费者对产品的真实反应，而在安全监控中，情绪识别可以用于识别潜在的威胁行为。
在智能座舱中，以 Affectiva的汽车人工智能平台 为例，该平台可以识别喜怒等情绪，并相应地调整车内环境，智能助理还可能会根据乘客的沮丧程度改变语气。
新闻报道，总部位于波士顿的初创公司 Cogito 等公司正在为企业提供工具，帮助员工更好地与客户互动。 其算法不仅能识别客服人员的 "同情疲劳"，还能通过应用程序指导客服人员如何回应来电者，例如，一位不高兴的客户可能会打电话投诉产品，Cogito 的平台在记录和分析对话后，会建议座席放慢语速，或提示他们何时表现出同情心。
然而，《欧洲人工智能法》（2024/1689）自 2024 年 8 月 1 日起生效，对欧盟（EU）人工智能的使用进行了规范，该法采用基于风险的分类分级方法进行AI监管，某些会带来不可接受风险的人工智能系统自2025年 2 月 2 日起将被禁止投入欧洲市场或使用。
“在工作场所和教育机构基于生物识别人工智能系统推断自然人的情绪识别”，就是被确定为直接禁止的人工智能功能。而至于什么是工作场所和教育机构及其场景，应当被扩大化解释。
《欧洲人工智能法》认为， "情绪识别"概念应界定为根据自然人的生物识别数据识别或推断其情感或意图的人工智能系统。这一概念指的是快乐、悲伤、愤怒、惊讶、厌恶、尴尬、兴奋、羞愧、蔑视、满意和娱乐等情绪或意图。
但是，迄今为止，关于什么是"情绪"，终究还没有一个普遍认同的定义，而且情绪属于内在心情，往往会和外部表情相关联。根据 美国心理学会的字典 ，情绪可被描述为由生理、行为和体验等多个部分组成。美国著名心理学家、情绪神经文化理论的作者保罗-埃克曼（Paul Ekman）提出了共七种" 普遍的基本情绪 "--悲伤、快乐、恐惧、愤怒、厌恶和惊讶和轻蔑（Contempt）——这些情绪能够遍布全球所有种族和文化。
但是，这种情绪及意图不包括身体状态，如疼痛或疲劳，例如包括用于检测职业飞行员或司机疲劳状态以防止事故发生的系统。这也不包括仅仅检测容易察觉的表情、手势或动作，除非它们用于识别或推断情绪。这些表情可以是基本的面部表情，如皱眉或微笑，也可以是手部、手臂或头部的动作，还可以是一个人的声音特征，如提高声音或低声说话。
这些心理、外在、行为、体验的交叉关系，令人很难有效区别情绪、表情和体验之间的关系。比如，女朋友打了男朋友一巴掌，男人外在的表现可能是疼痛，其行为可能是捂嘴的动作，表情可能是皱眉，而其内心情绪却可能是欢乐。
因此，只要面部识别人工智能最终没有识别或推断出“欢乐”的情绪，则其它外在、行为、体验的识别，可被认为仍然是允许的。现在的情绪识别系统，甚至可以检测出男性和女性面部所表现出的情绪之间的细微差别。而一旦人工智能应用于微表情，则人人都可能是表情情绪专家，微表情是一种不受自主神经系统控制的瞬间微妙表情，表明一个人在有意识地隐藏自己的真实情感。
2014年的西班牙巴塞罗那，一家喜剧俱乐部引入了一种全新的经营方式，观众免费人场，按笑声收费，不笑不收钱，经营者在观众席的每个座椅背后安装有脸部辨识系统的平板电脑，准确记录观众的每次发笑。每笑一次收费0.3欧元。不过，不用担心笑太多付不起费用，因为每场表演最多计算80个笑容。
如果根据上述情绪的识别，在应用面部识别之中基于“大笑”的表情，不难推断出观众的情绪是欢乐的，这种情况下，虽然根据数据保护法规无禁止项，但根据人工智能系统的应用时，这样的商业模式就将面临非常高的禁止风险。
（来源：klaw.com/comedy-club-charge-per-laugh）
与此类似的，诸多智能穿戴设备也会为用户基于相关敏感数据采集（不一定是生物识别数据），而为用户提供心情识别服务。特别是针对儿童的情绪识别，老年人的情绪识别的。另外，我国各地高校曾发生过在教室布置注意力监测系统，以识别学生学习的注意力。此类商业模式及功能也需要在人工智能领域中重新评估所引发的法律风险。
之所以此类情绪识别系统在特定领域被禁止，是基于情绪的表达在不同文化和情况下，甚至在单个人身上都有很大差异，根据生物识别数据识别或推断自然人情绪或意图的人工智能系统可能导致歧视性结果，并可能侵犯相关人员的权利和自由。
比如以中国人的笑声表情为例，虽然同为微笑，一种可能是轻蔑的冷笑或嘲笑，一种可能是内心的欢愉之笑。进入店铺的消费者对着店员点头一笑，可能仅意味着善意的拒绝导购，而不是开心。
而之所以仅在工作和教育领域禁止情绪识别人工智能系统，是因为考虑到工作或教育领域一直存在权利不平衡的状态，情绪系统可能会导致某些自然人或整个自然人群体受到不利或不利的待遇。因此，应禁止将旨在用于检测个人在工作场所和教育相关情况下的情绪状态的人工智能系统投放市场、投入使用或使用。这一禁令不应涵盖严格出于医疗或安全原因而投放市场的人工智能系统，如用于治疗的系统。
情感人工智能技术可以帮助企业实时捕捉情感反应--例如，通过解码面部表情、分析语音模式、监测眼球运动和测量神经沉浸水平。最终结果是更好地了解客户甚至员工。核心在于"人们会撒谎，但他们的大脑不会"。
2024年11月10日，荷兰数据保护局（AP）就《禁止在工作场所或教育机构使用人工智能系统进行情绪识别》征集大众意见。在意见中，荷兰数据保护局认为，根据欧盟人工智能法，即使是在家庭工作环境、在线或远程学习中应用情感识别也属于禁止范围，同时，这也适用于在招聘和选拔，或教育申请中应用情感识别。
荷兰数据保护局还认为，不在工作场所或教育机构使用的情绪识别人工智能系统也属于 "高风险"，还必须遵守适用于这些系统的要求。
热门跟贴