打开网易新闻 查看精彩图片

行业动态

21评论｜三大CEO呼吁AI“降速”，对行业有何影响？ Anthropic首席执行官达里奥·阿莫代伊呼吁AI行业放慢前沿模型能力提升步伐，引起行业关注。xAI创始人埃隆·马斯克和OpenAI首席执行官萨姆·奥尔特曼也表示赞同。阿莫代伊强调，放缓并非停止模型训练，而是为了有足够时间进行安全防护。此举可能影响AI算力扩张预期，但旨在构建长期、健康、可持续的AI发展。文章提出AI风险已超越幻觉与偏见，成为系统性风险，呼吁平衡能力开发与安全对齐。文章还探讨了安全治理的多层次协同，包括企业自律、行业协同和政府监管，以及AI安全与合规治理成为新兴产业的可能性。
批量自动化崩老头，一个AI搞定了，这个呢 某中国App工作室利用AI大模型冒充年轻女性，通过约会App与海外男性进行互动，实施“崩老头”诈骗。AI生成不同人格和语音，自动化与数千人对话，诈骗团伙通过小额转账获取钱财。警方在山东抓获诈骗团伙，团伙成员均为男性，使用AI技术伪装女性形象，涉及金额过百万。
加拿大研究人员呼吁无限期暂停前沿AI研发，否则人类灭绝“只是时间问题” 加拿大人工智能研究员戴维克鲁格警告，仅放缓AI研发不足以避免末日场景，呼吁立即无限期暂停前沿AI研发。他认同放缓AI研发的声音，但认为现有措施力度不足。克鲁格所在的非营利机构Evitable旨在科普AI风险，他担心现有AI测试方法已失效。Anthropic首席执行官达里奥阿莫代伊主张实施监管和国际合作，引入第三方评估人员。克鲁格认为未来五年内人类可能被失控AI剥夺主导权，呼吁各国政府采取行动。加拿大联邦AI事务部长埃文所罗门表示AI将受到监管，保障民众安全。
上海市信息安全测评认证中心发布全国首个生成式人工智能安全测试公共服务平台 “网信上海”消息，在上海市委网信办、市经信委的指导下，由上海市信息安全测评认证中心建设的全国首个生成式人工智能安全测试公共服务平台——“智测能手”，于9月14日在国家网络安全宣传周上海地区活动开幕式上正式发布。平台以公共服务产品的全新思路，为国内人工智能治理实践提供了上海方案。平台大模型安全测评模块针对涉及生成违法违规内容、歧视偏见、事实性错误等风险开展自动化评测，输出测评结论与优化建议，对模型违规输出的判定准确率不低于95%。
大基建！又一个“4万亿”来了 最新发布的“十五五”规划显示，未来五年我国信息基础设施累计投资将达3.8万亿元，算力网新增直接投资4万亿，新型电网固定投资预计超5万亿元。大基建投资方向转向AI，重点布局低空经济、智能驾驶、机器人等前沿领域。新一轮AI大基建将带来投资潮，并重新分配区域发展红利。

本文由小欧AI基于亿欧数据生成，如有问题及建议，欢迎通过网站底部联系方式和我们联系。