使用苹果手机或苹果产品的人，都知道Siri，她（姑且用“她”，因为是女音）是一位智能语音助手，能和用户进行智能对话。不过，现在她的一种做法可能让人惊出冷汗，而且有些无地自容。你做爱的声音会被她偷偷录下来，并且发给别人。不只如此，你患病后与就诊时的医疗信息、毒品交易时的对话等，都会被她录下音，并传给他人。
?
事情的起因是，Siri记录下来的一些声音会被苹果公司送给“评分员”进行人工评估，其中包括极为私密的声音，如性行为时的声音，当然这是在偶然激活了Siri的音频系统后产生的。由于担心很多敏感的个人隐私的暴露，一位获知这些声音并进行评估的“评分员”对媒体匿名举报了苹果公司的这种做法。
毫无疑问，这是人工智能产生和触发的伦理问题，直指人工智能的要害，即人工智能产品是否安全，以及能否保护公众的个人隐私。然而，Siri能偷录使用者最隐密的声音并传送给他人，让人普遍怀疑苹果产品的安全性，无论是手机，还是手表，以及HomePod音响，这些产品都装载有Siri。
不过，苹果公马上进行了解释。一是Siri偷偷录音并传给第三者，即“评分员”是为了更好地改善Siri的功能。二是录音只是小部分Siri被自动激活后的结果，而且这些录音也只有1%被用于评级。三是被偷录下来的音频传送给的第三者只是审核者（评分员），所有审核者都有义务遵守苹果公司严格的保密要求。而且，这些偷录的音频时间也很短，通常只有几秒钟。
也就是说，即便Siri被激活偷偷录音并传给他人，也是可以保密的。不过，事情并非那么简单，苹果公司能否保证所有的审核员都不泄露这些私录的极为隐密的音频呢？
现有的很多情况也表明，Siri偷录用户的声音隐藏着极大的不安全性。一是Siri很敏感很兴奋，简直就是一位怀春的躁动不安易于激动的少女，尤其是手表中的Siri，很容易就被激活了，只要叫一声Siri或出现与Siri发音相似的语音，她也会及时应答和激活。
2018年英国国防大臣加文?威廉森在议会讲话时，说到叙利亚（Syria）时，就激活了Siri。一引起情况表明，甚至拉拉链的声音也会激活Siri，也因此，Siri会偷录下更多的用户的私密声音。另一个让人不安情况是，苹果公司在给消费者的隐私条款中未明确披露Siri可以被激活并录音，还要把录下的声音传送给第三者进行评估。显然，这又违背了另一项伦理准则，知情同意。
另外，Siri偷录下的音频也并非是苹果公司所称的只有几秒钟，而是可以有30秒之久，这个时长的录音足以让人听出其中的内容八九不离十。而且，听到Siri录下的声音后，人们还可以识别出说话的人是谁，因为在意外触发Siri时，会有地址，姓名等录下来。
?
不过，Siri的偷录可能并非一家做法，而是许多电子产品、智能软件的共同做法，例如在很多品牌的智能手机中都有语音助手，这些语音助手还与手机使用者形成了亲密关系，人们会让它报时、查询天气等日常任务，甚至有一项最能引发用户兴趣的是，与语音助手聊天。
由于语音助手的智能化还不足以完全通过图灵试验，就使得用户与它的聊天成为一件很有意思的事，它可能会答非所问，也可能会与聊天者不在一个逻辑平台，还可能以一种意想不到的答案来回复聊天者。凡此种种，都会让用户乐不可支，其功能也相当于宠物狗和宠物猫，能缓解人们的心理压力。
不过，大多数智能手机或其他电子产品的语音助手也担负着另一项任务，通过录下与人们的谈话过程，搜集大数据，包括对话的内容、语音、语速和语调等，来进行分析，对语音做标注和反馈，从而形成人工智能的深度学习算法，以帮助和进一步训练语音助手，让其更智能地与用户通话、聊天，而且还可能通过大数据积累，有朝一日突破图灵测试，提升人与语音助手交流的可靠性、逻辑性和理性，甚至还具有情感。而这正是人工智能的高级目标。
但是，在搜集和录下用户的语言和语音并供给第三方或其他人分析时，智能手机的设计者和生产者一般并不会主动告诉用户，也就是违背知情原则，而且还会把用户私密的个人隐私泄露出去，就像Siri。而且，如同Siri一样的语音助手还有很多。
德国联邦议院于2019年7月发布评估报告称，美国亚马逊公司的亚历克萨（Alexa）语音系统对用户有风险。亚马逊公司称，这一语音系统录制用户谈话的目的用于训练亚历克萨，以其语音服务的质量。尽管亚马逊在其语音助手设置中增加了一个新选项，允许用户选择自己的录音不被“人工分析”，但这一选项隐藏在隐私设置的子菜单中，不特别注意，往往留意不到，也就会默认其可以录音并用作人工分析的用途。这也与Siri并不告诉用户会录用他们的私人语音相似，即不同程度地违背知情同意原则。当然，Siri更厉害的是，可以触动偷录的功能。
显而易见，如果用户知道了Siri是一位如此躁动并能轻易就触发偷录功能的助手，并且还要把自己的隐私传递给他人（不只是评分员），也许就不会用苹果产品了，至少要求卸载Siri后才会使用苹果产品。同样，如果用户看到了亚历克萨的知情同意条款，也会有很多人选择不让亚历克萨录音。Siri比亚历克萨更过分的是，苹果公司并未在隐私政策中告知用户Siri会偷录用户的语音并传给第三方进行分析。
同样，谷歌智能助手也在偷录用户的语音。据比利时弗拉芒广播电视台报道，已有超1000个谷歌智能助手录音内容被承包商泄露。
当然，Siri的偷录也并非一无是处，2018年10月2日，沙特阿拉伯记者贾迈勒·卡舒吉进入沙特驻土耳其伊斯坦布尔的领事馆，办理结婚相关手续时再也没有走出使馆。事后，多国刑事鉴识人员侦破了此案，卡舒吉是在使馆内被杀，侦破的线索之一就是卡舒吉手上所戴的苹果手表中的Siri被激活，私录了音频并传出来，帮助刑侦人员破案的。
?
2018年，微软发表了《未来计算》（The Future Computed）一书，其中提出了人工智能开发的六大伦理原则：公平、可靠和安全、隐私和保障、包容、透明、责任。其实，人工智能的伦理并非只是这6项，至少还应当有知情同意。
但是，智能手机中的语音助手私自和偷录用户的谈话内容和语音，显然是既违背了人工智能的可靠和安全、隐私和保障，但更直接的一条是违背了知情同意原则。面对这种情况该怎么办呢？
一方面，政府部门可以依法要求智能手机的生产者停止偷录用户的语音。欧洲和美国的监管机构和立法机构正在对谷歌、苹果和亚马逊进行调查，审核上述三家公司是否涉嫌侵犯用户隐私，聘用专员听取用户使用电子助手时发出的指令。而且，德国数据监管部门汉堡数据保护与信息自由委员会近日已要求谷歌语音助手停止对欧洲用户语音数据的收集和人工分析，并敦促欧盟监管机构按照欧盟《通用数据保护条例》采取妥善措施处理亚马逊、苹果等其他智能语音服务提供商的相关问题。
另一方面，用户和政府部门也可起诉手机生产者，法律依据就是欧盟2018年5月25日出台的《通用数据保护条例》（GDPR）和其他国家关于通信保护和隐私保护的法律。在GDPR中，个人数据的处理有6项法律依据，其中之一就是“同意”。
GDPR第4条第11款将“同意”定义为：“数据主体的同意是指，数据主体依照其意愿自由做出的、特定的、知情的、明确的指示。通过以声明或清晰肯定的行为做出的该等指示，数据主体表明其同意处理与其相关的个人数据。”
现在看来，Siri偷录用户音频，而且还会把录下的音频送到第三方去进行分析和评估，并没有事先告知用户，违背了知情同意原则。用户们并不知情，怎么会同意偷偷被录音呢，而且还要把用户最私密的声音传递或泄露出去。
根据GDPR，爱尔兰数据保护委员会2018年12月宣布，由于“Facebook发布了一系列用户数据泄露的通知”，数千万用户的个人数据被分享到剑桥分析公司，已在调查此案，并且会根据GDPR的规定对一家公司最高可处以占其全球收入4%的罚款，对Facebook来说，相当于超过15亿美元。不过，这只鞋子还未落地。
已经掉下来的鞋子是，美国联邦贸易委员会（FTC）对Facebook开出了50亿美元的和解罚单，这也是FTC开出的史上最大罚单。原因也是，一年多前，数千万Facebook用户的数据未经用户知情同意，落入剑桥分析公司手中。尽管美国没有相同的GDPR法律，因此FTC依据的法律不是GDPR，但有其他相似的法律和规定。FTC指控Facebook违反了其2012年与FTC达成的和解令，即Facebook想收集和共享用户数据，需要获得消费者的明确同意，但是Facebook违背了知情同意原则。
苹果的Siri私自偷录用户的私密音频并传递给第三方是否会受到起诉和调查，目前尚不知晓，而且即便闹到法庭，可能也会一波三折，还会有激烈的攻防战，但是Siri的这种偷录做法显然已经违背了人工智能的基本伦理，需要有更强硬和详尽的管理措施。
在问题还没有解决之前而且又在使用装载有Siri的苹果手机或手表的人怎么办呢？可以稍为宽心的是，目前苹果已停止人工语音分析业务。但是，用户也应当自己采取行动，加强保护隐私，比方说，做爱时摘下苹果手表或关机。
另一方面，由于Siri还有另一种意想不到的录下用户行踪的功能，并且可能成为保护用户的线索，如卡舒吉遇害时的信息传递，但是，即便要使用这种装置，苹果也应当获得用户的知情同意。
热门跟贴