随着前沿医疗技术日益接近消费市场，针对其合规使用的保护机制显得愈发迫切。一项最初旨在辅助交流的神经植入设备，有朝一日可能演变为监控人类内心世界的工具。
哈佛-麻省理工学院健康科学与技术联合项目的博士候选人瑞秋·萨瓦，正是被神经植入技术所蕴含的深远机遇与潜在风险所吸引，深入探究了这一改变生命的医疗设备如何沦为企业和政府实施监控的手段。她以此为题撰写的论文《超级智能，超级私密》，荣获第四届"展望计算未来奖"大奖。
萨瓦的研究灵感源于她在IBM的一次实习经历。当时，她参与了与伦敦PACE中心合作的一个项目。"项目中有位导师叫凯文·布朗，他本人曾参与设计了最早期的脑部解码器之一——那是一套基于脑电图的系统，专为一位因中风而陷入闭锁综合征的同事而建。"萨瓦说，"正是这群被困于自身躯体、无法自由表达的患者，在六年后激励我写下了这篇关于神经假肢的文章。"
萨瓦指出，当前神经技术的研究与应用正处于"关键转折点"。她以企业借助神经植入设备监测员工脑力劳动效率、当局针对"思想罪"实施人口管控等场景为例，指出一旦这类技术进入消费市场，原本革命性的医疗设备极有可能走向反乌托邦式的应用，这种隐忧绝非空穴来风。
本次竞赛由麻省理工学院施瓦茨曼计算学院旗下的跨校园倡议"计算的社会与伦理责任"（SERC）主办，联合人文艺术与社会科学学院共同举办，并获得MAC3慈善基金会的资助。竞赛邀请麻省理工学院学生以不超过3000字的篇幅，探讨哪个领域能从人工智能中获得最高的净正面影响，同时鼓励参赛者在考量现实技术应用的基础上，充分评估潜在风险与伦理问题。所有参赛作品均有资格角逐现金奖励，最高奖金为1万美元。
颁奖典礼由SERC前副院长、哲学教授卡斯帕·黑尔主持现场颁奖，他于2023年创立了这一奖项。三位决赛入围者分别就各自的研究作了20分钟的演讲，并接受评审团和观众的提问。
"SERC以及年复一年支持这一奖项的捐助者，正在向我们这代科学家发问：'你们希望看到怎样的世界？'我认为，每个人都值得花时间认真问一问自己同样的问题。"萨瓦说，"如果这份关切像对我一样，在你心中燃烧得足够炽热，驱动你进一步采取行动，那就值得给自己一个机会，像对待其他学术研究一样，深入探索它。"
"展望计算未来奖"每年都引导学生跳出技术进步本身，从一开始便审视自身工作所带来的社会效益与代价。自创办以来，这一赛事持续吸引着来自各个学科的本科生和研究生踊跃参与。
SERC联席副院长、哲学教授布莱恩·黑登表示："今年的参赛作品质量出众，涵盖了脑机接口、AI与宗教、AI赋能科学发现、电网效率优化等多个议题。这些作品充分展现了麻省理工学院在技术社会影响与伦理思考领域的广度与深度。"
SERC联席副院长、JC Penney管理学讲席教授尼克斯·特里查基斯补充道："这些文章最令人印象深刻之处，在于它们所展现出的想象力：学生们游刃有余地穿梭于医学、神经技术、法律、伦理与公共机构之间，始终将人的主体性置于核心。他们的作品兼具创造力与严谨性，思考深刻，不仅展望了AI能做什么，更追问了AI应该做什么。"
除萨瓦荣获1万美元大奖外，两位亚军各获5000美元奖金：化学系博士候选人科迪安娜·科兹尔，凭借其关于AI作为公设辩护人认知缓冲器的论文获奖；技术与政策项目研究生斯特拉欣亚·扬尤塞维奇，则因其在神经控制假肢领域探讨主体性与所有权的论文获此殊荣。评审团还评出四项荣誉提名，每位获奖者将获得500美元奖金。
Q&A
Q1：瑞秋·萨瓦的获奖论文《超级智能，超级私密》主要讲了什么？
A：这篇论文探讨了神经植入设备从医疗工具演变为监控手段的潜在风险。萨瓦以企业监测员工脑力效率、当局管控"思想罪"等场景为例，指出当神经技术进入消费市场后，原本用于辅助交流或治疗的医疗设备，可能被企业或政府机构用于监控人类的内心世界，呼吁在技术应用中建立必要的伦理保护机制。
Q2：展望计算未来奖是什么，由谁主办？
A：展望计算未来奖是由麻省理工学院施瓦茨曼计算学院旗下的"计算的社会与伦理责任"（SERC）主办的年度竞赛，联合人文艺术与社会科学学院共同举办，并获MAC3慈善基金会支持。竞赛邀请麻省理工学院学生探讨人工智能对特定领域的净正面影响，同时评估潜在风险与伦理问题，最高奖金为1万美元，自2023年起每年举办一届。
Q3：神经植入技术目前面临哪些伦理风险？
A：据萨瓦的研究，神经植入技术目前正处于发展的关键转折点，主要面临两大伦理风险：一是商业滥用，企业可能借助此类设备监测员工的脑力劳动效率，侵犯个人隐私；二是政府滥权，当局可能利用该技术对人群进行"思想罪"管控。这些风险表明，在技术进入大众市场之前，亟需建立完善的法律与伦理保护框架。
热门跟贴