```html 马姆达尼韦伯斯特音乐厅谈AI监管与问责 马姆达尼韦伯斯特音乐厅谈AI监管与问责
周一晚上，曼哈顿的韦伯斯特音乐厅里，纽约市长佐赫兰·马姆达尼和活动人士、曾主演《大城小妞》的伊拉娜·格雷泽坐在一起聊AI。格雷泽向市长提问，话题是社会里AI的未来走向。
马姆达尼给在场纽约人传递的信息很直接：别被那种“AI必然要来抢工作、抢孩子的大脑、抢尊严”的压迫感牵着走，要把控制权拿回来。这场活动叫“人民AI大会”，主办方是研究AI社会影响的智库AI Now Institute。
他讲话的时机，正赶上联邦层面在AI监管上动作寥寥，城市只能自己想办法。马姆达尼的观点是，这项技术的快速铺开并非不可避免，公职人员应当让AI公司承担责任。
学校、房源，两件事先动手
上个月，马姆达尼下令在小学和初中禁用AI。作为家长的格雷泽说，技术进课堂让她不安。
“这让我紧张。感觉非常不自愿，好像……这东西就必须进学校。两年前它不在学校里。为什么它非得进学校？”她说。
今年夏天，这位市长还推出了一项政策：房东、经纪人和房产平台在房源照片或视频由AI生成时，必须明确披露。政策的目标是防止纽约人被“房源钓鱼”——被误导性的挂牌信息骗到。
这两项动作，都在挑战一个默认前提：学校和公众只能接受AI以它到来的方式到来。
“没有什么事是必须的，”马姆达尼在周一的活动上说，“这背后有一种蔓延感，也有一种让人不堪重负的意图，让人觉得根本没有别的选项。”
“好像它不会犯错”
他提到一种“对技术的鲁莽采用，却不对这项技术的局限做任何清算”，并举例说，美军2月对伊朗一所学校的打击造成150多人死亡，其中包括至少123名儿童。参与五角大楼内部调查的官员对彭博表示，在目标选定上过度依赖AI是这次袭击的因素之一。
“有一种愿望，是把AI说得好像不会犯错，好像不能被质疑，好像唯一有资格监管它的，就是现在正在开发它的那些人，”马姆达尼说，并提到Facebook在2008年也讲过类似的话。
“它真正是什么，”他接着说，“是一种在各级逃避问责的尝试，同时又不危及IPO带来的潜在估值。”
Anthropic预计今年上市，OpenAI则表示将在2027年上市。
马姆达尼批评联邦法律在AI问题上的“彻底缺位”。
“在国家层面，谈到人工智能时，话语常常被框定成与中国的军备竞赛，任何人文层面的关切，都被以国家竞争的语言推到一边，”他说。
本月早些时候宣布的唐纳德·特朗普“超级智能工作组”，重点很大程度上是让强大的AI公司自我监管，而不是设立新的联邦限制。这与外界日益加深的担忧形成对照——包括Anthropic、Google DeepMind和OpenAI的吹哨人警告AI可能导致人类灭绝。
“当我们展望这届联邦政府之后的日子，在如何思考AI、谈论AI、以及我们愿意推进怎样的问责上，必须有一套非常不同的框架，”马姆达尼说。
热门跟贴