打开网易新闻 查看精彩图片

OpenAI正就收购安全初创公司Trail of Bits进行初步谈判

当地时间10月13日，据报道，知情人士透露，OpenAI正就收购安全初创公司Trail of Bits进行初步谈判。目前尚无法获悉这笔潜在交易的规模，谈判仍在进行中。

OpenAI办公室发现隐藏录音设备，涉事员工被捕

当地时间10月13日，OpenAI在社交平台发文表示，公司在一间办公室内发现一台精密录音设备。公司借助自身模型对该设备及其来源进行分析，确认该设备系一名员工于数日前安装。OpenAI表示，公司已将此事移交美国联邦调查局（FBI），涉事员工目前已被逮捕，相关调查仍在进行中。OpenAI还表示，目前尚无证据表明该人员曾不当访问或外泄模型权重、源代码或客户数据。涉事员工已被解雇。

Meta推出AI工具，允许用户自主定制Facebook信息流

Meta平台正在Facebook上推出一系列AI驱动的自定义工具，用户可以用自然语言直接向算法说明自己希望在信息流和Reels短视频中看到的内容。用户可通过帖子上的三点菜单访问全新的“你的算法”功能，点击“感兴趣”或“不感兴趣”选项后，系统会弹出后续问题收集更细化的偏好信息。该功能由大语言模型提供技术支持，可识别并处理自由输入文本中的用户意图与上下文信息。

英伟达将在未来五年内投入2.5亿美元，推进英国智能体安全研究

当地时间10月13日，英伟达宣布将在未来五年内投入2.5亿美元，以推进英国在智能体安全与保障方面的研究。该公司承诺将每年提供5000万美元的计算资源支持。

Anthropic与新加坡政府签署AI协作协议

Anthropic当地时间10月14日发布声明称，公司与新加坡政府签署合作协议，将在人工智能安全、安保、模型评估和研究等领域展开合作。根据协议，双方还将探索加强新加坡AI技能的方式，并分享研究成果和数据。协议金额未披露。

字节Seed新设大模型安全与对齐部门启动人才招募

10月14日，字节跳动宣布启动Seed Alignment & Preparedness全球顶尖人才招募，计划在全球范围内邀请10位顶尖研究员加入新设立的大模型安全与对齐部门。研究课题包括大模型及Agent安全的前沿评测方法和Benchmark建设、模型前沿能力对齐的训练方法、自动化Red Teaming、模型行为可解释性、模型能力和行为监控、安全和对齐相关数据与Agent 环境合成，以及模型未来风险的应对准备。工作地点在北京、上海和圣何塞。

智元机器人在上海成立新公司，注册资本1000万

天眼查App显示，10月12日，上海元生沃土科技有限公司成立，法定代表人为邓泰华，注册资本1000万人民币，经营范围包括技术服务、技术开发、技术咨询、技术交流、技术转让、技术推广等。股东信息显示，该公司由智元机器人关联公司智元创新（上海）科技股份有限公司全资持股。