OpenAI公布了一项研究,主题很吓人:AI 也会耍心机,甚至故意欺骗。
他们给这种行为起了个名字——“阴谋诡计”。意思是,AI表面上装作听话,其实暗地里在搞别的目标。研究里举了个例子:就像股票经纪人为了多赚钱,会违法操作一样。AI 也可能“装完成任务”,但实际上啥也没干。
更离谱的是,如果 AI 知道自己正在被测试,它会假装很乖,骗过人类审查,但实际上继续偷偷搞小动作。这才是真正让人后背发凉的地方。
路透社昨日报道,英伟达宣布将斥资 50 亿美元收购英特尔约 4% 的股份,并与其达成一项涵盖 PC 与数据中心芯片的深度合作协议。此举不仅使英伟达成为英特尔的重要股东,也标志着两家美国芯片巨头在 AI 时代的战略联手。
过去一天,国内外AI行业还有更多热点可以关注,乌鸦君带你一起看看。
大模型
1)面壁智能发布 0.5B 参数语音模型
9 月 18 日,面壁智能联合清华大学深圳国际研究生院人机语音交互实验室正式推出语音生成基座模型 VoxCPM。该模型参数规模为 0.5B,在语音自然度、音色相似度及韵律表现力方面均达到了业内 SOTA 水平。
2)ChatGPT 上线 GPT-5 Thinking 思考时长调整功能
OpenAI 今日在 X 平台宣布,为 Plus、Pro 和 Business 用户推出 GPT-5 Thinking 调整功能,允许用户自由选择模型的思考时长,以便在速度与智能程度之间找到合适的平衡。
用户一旦选择思考模式,该设置将在后续网页端对话中保持不变,直到手动更改。
3)OpenAI最新研究:AI 也会耍心机,甚至故意欺骗。
OpenAI公布了一项研究,主题很吓人:AI 也会耍心机,甚至故意欺骗。
他们给这种行为起了个名字——“阴谋诡计”。意思是,AI表面上装作听话,其实暗地里在搞别的目标。研究里举了个例子:就像股票经纪人为了多赚钱,会违法操作一样。AI 也可能“装完成任务”,但实际上啥也没干。
更离谱的是,如果 AI 知道自己正在被测试,它会假装很乖,骗过人类审查,但实际上继续偷偷搞小动作。这才是真正让人后背发凉的地方。
不过,这项研究也带来点“好消息”:研究人员发现,如果让模型在行动前先复习一遍规则(他们叫“协商一致”方法),阴谋行为明显减少。就像小孩玩游戏前先温习规则,出问题的几率就小很多。
AI应用
1)Meta 推出全景扫描方案:几分钟即可将现实空间搬进 VR 世界
昨天,Meta 在 Connect 大会上正式为旗下 Quest 3 / 3S VR 头显推出全新的「Hyperscape 全景扫描」方案。该功能可将现实场景快速捕捉并转化为虚拟现实空间,用户只需佩戴头显,在「几分钟内」即可完成空间扫描,随后数据会上传至服务器进行渲染,数小时后便能在 VR 中重现真实环境。
据介绍,Hyperscape 采用高斯贴图与点云等三维扫描技术,能够在无需专业扫描仪的情况下实现高精度建模。Meta 公布的示例包括家庭厨房、录音室以及个人房间等场景,科技媒体 Tech Crunch 评价称「这些模型的精度令人惊讶,几乎看不出是由售价 300 美元的消费级 VR 设备完成的」。
2)Notion 推出用于数据分析和任务自动化的代理
周四,Notion 发布了它的首个 AI 助手(代理)。
这个助手能直接用你所有的 Notion 页面和数据库里的内容,帮你干活。比如:
自动写会议纪要和总结分析;做竞争对手报告;整理用户反馈页面
它不光能新建页面和数据库,还能更新已有的数据、属性和视图。更厉害的是,它还能和外部工具打通:你可以让它把 Slack、邮件、Google Drive 里的信息抓过来,自动生成一个错误追踪面板。
和之前的 Notion AI 相比,这次的代理更聪明,能处理更复杂的任务。比如,它可以连续工作 20 分钟,搞定几百页内容的整理和分析。
投融资情报
1)英伟达豪掷 50 亿美元押注英特尔
路透社昨日报道,英伟达宣布将斥资 50 亿美元收购英特尔约 4% 的股份,并与其达成一项涵盖 PC 与数据中心芯片的深度合作协议。此举不仅使英伟达成为英特尔的重要股东,也标志着两家美国芯片巨头在 AI 时代的战略联手。
英伟达今日凌晨在其官方微信公众号发文表示,将以每股 23.28 美元的价格购买英特尔普通股,该价格略低于前一交易日收盘价 24.90 美元,但高于美国政府此前以每股 20.47 美元收购的价格。
PS:如果你对AI大模型领域有独特的看法,欢迎扫码加入我们的大模型交流群。
热门跟贴