周三，MIT Technology Review 举办了一场线上圆桌论坛，主题直接抛出一个很多人正在问的问题：AI 真会灭掉人类吗？现场观众的提问数量远超活动时间能容纳的上限，主办方只好把其中一部分问题转交给资深 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins 继续回答。
他们试图回应的提问包括：我会不会死？AI 到底为什么要杀我们？AI 是真的危险，还是科技公司在给自己造势？以及，能采取哪些措施让 AI 被有效控制、监控和监管？
AI 赋能生物武器的幽灵，是对生物技术的警钟
AI 可能造成灾难性伤害的路径之一，是协助设计和制造生物武器。2022 年，有研究人员发现，用一台本来用于开发药物的 AI“分子生成器”来做这件事，容易得惊人。不到六个小时，这个模型就生成了 40000 个可用作化学战剂的分子。
如今，AI 工具几乎能回答科学领域所有方向的问题，而基因编辑和合成生物学的进步，也让生物技术工具变得更容易获取。相关防护措施存在，但没有一道是铁打的。不过，科学家们对这项风险究竟有多严重，本身也意见不一。
宇航员这个角色，正在被重新定义
人类去太空，理由包括地缘政治声望、天定命运、精神满足、科学好奇心，以及越来越多的商业机会。在 Artemis II 之后，一批新书提出，这些理由其实都被一个统一的事实收编了：人类的脚底发痒，我们天生就被设定成要四处漫游。
在《The Ultraview Effect》中，太空人类学家 Deana L. Weibel 把人类太空探索框定为朝圣需求的一部分。在《A Heart for Space》中，平民宇航员 Eiman Jahangir 讲述了搭乘 Blue Origin 的一次此类航行。而在《Dinner with an Astronaut》中，前 NASA 宇航员 Leroy Chiao 主张，人们就是“需要知道另一边有什么”。
今天值得一读的几条
- 微软和 OpenAI 的员工说，AI 正在摧毁网络。从网站那里蚕食点击量，会摧毁那些让新鲜内容持续产出的商业模式。这些员工对出版商能否在 AI 抓取下存活表示担忧。相关评论出现在《纽约时报》的版权案中，可能削弱 OpenAI 和微软的辩护。AI 意味着我们熟知的互联网搜索走向终结。
- 机器人船第一次互相交战。一艘乌克兰船只在一场战斗中击沉了一艘俄罗斯船只。美国公司正在建造可投入战斗的人形机器人。
- 安全研究人员用 Anthropic 的工具攻破了 OpenAI。他们进入了某位员工的 ChatGPT 账户和内部代码，利用一个第三方论坛触达了内部系统。
- 据报道，OpenAI 预计很快会攻克另一道著名数学难题。但它能在宣布时避免又一次反弹吗？它预计要解决的问题是霍奇猜想。OpenAI 的数学争议中，藏着关于这个领域未来的令人担忧的线索。
- Elon Musk 的 SpaceXAI 想从失败创业公司那里购买数据，为 Grok 寻找新的训练数据来源，目标包括客户和运营数据。OpenAI 则在付费创造新的生物学数据。
- 学校正在抵制大型科技公司对课堂的接管。AI 加剧了人们对企业影响力的担忧。学校需要更聪明的 AI 使用方式。
- 黑客披露了 Flock 摄像头如何追踪车辆和人。一台摄像头拍下了 50000 辆车的 160 万张图像。这些摄像头还会检测人，并错误识别物体。
- 美国科技限制之后，中国企业加倍投入科学。它们产出的引用科学论文的专利多了 72%。
- 一名三岁儿童的癌症在实验性细胞疗法后消失了。CAR T 疗法可能终于能够治疗实体瘤。
- 纽约市的新机器人厕所会在 10 分钟后把你赶出去。计时结束，门会自动打开。
今日金句
“人类历史上最大规模的劳动力盗窃。”——微软应用科学总监 Brent Hecht 对 AI 系统所用训练数据表达担忧，这番话出现在《纽约时报》诉 OpenAI 版权案的法庭文件中。
还有一件事
薇拉·C·鲁宾天文台已准备好改变我们对宇宙的理解。在智利海拔 2700 米的 Cerro Pachón 山顶，空气清澈干燥，几乎没有云层遮挡美丽的星空。正是在这里，薇拉·C·鲁宾天文台正使用一台汽车大小、3200 万像素的数字相机——有史以来建造的最大相机——每三天生成一张全新的全夜空地图。鲁宾每晚产生 20 TB 数据，将捕捉太阳系、银河系以及宇宙大尺度结构的精细细节。在 10 年间，它将编目数十亿个新天体。
热门跟贴