段伟文
文/段伟文中国社会科学院人工智能研究 促进中心研究员
观点摘录：
▲最新研究表明，尽管当前智能体已经具备一定的漏洞利用、网络攻击和沙箱逃逸能力，并在部分安全测试中表现出未经明确指令的异常行动，但这与真正意义上由智能体的自主行为引发的持续性失控仍有区别。
▲这些事件揭示的现实是：当模型拥有代码执行、工具调用、网络间接访问以及较长行动链时，其行为的可预测性和安全边界正在受到新的挑战。
▲模型存在明显的“锯齿状能力”表现：它们虽然能够解决高度复杂的问题，却可能在一些简单任务上犯低级错误。
▲AI 研发正在从单项辅助走向多步骤自动化，并形成局部闭环。然而，这些过程通常仍处于人类设定的研究目标、评价指标、计算资源和实验环境之内。
▲2030 年建立更加完整的治理框架，包括 AI 研发全面透明化、扩大参与主体、加强安全验证，并让更多国家和企业能够获得前沿能力，避免超级智能被少数公司或国家垄断。
▲全球 AI 治理需要创造性地构建互信、交流与协商机制，使各方能够在不放弃自身发展权的前提下，降低无序竞争带来的共同风险，推动全球 AI 发展，逐步从破坏性的零和博弈走向建设性的竞合关系。
原文
点击图片可放大查看
段伟文，中国社会科学院文化发展促进中心研究员、中国社会科学院人工智能研究促进中心研究员。主要研究领域为科技哲学、科技伦理、人工智能的社会和伦理研究等；目前关注深度智能化与人类未来、智能社会治理、前沿科技与国家战略等。曾赴英国牛津大学信息伦理研究组、美国匹兹堡大学科学哲学研究中心做访问研究。著有《网络空间的伦理基础》《被捆绑的时间：技术与人的生活世界》《赛博空间的哲学探索》（合著）《可接受的科学：当代科学基础的反思》《信息文明的伦理基础》等专著；公开发表学术论文 80 余篇，科技评论 30 余篇。
编辑：柯欣
审核：王汝霖
欢迎投稿
关注我们了解更多资讯
《中国科技信息》杂志社
主管单位：中国科学技术协会
主办单位：中国科技新闻学会
在线投稿平台：www.cnkjxx.com
新媒体内容合作联系微信：cnkjxx1989
杂志收录情况：《中国知网》《中国期刊核心期刊（遴选）数据库》《中国学术期刊综合评价数据库（CAJCED）统计源期刊》《中国期刊全文数据库（CJFD）》《中国科协、中国图书馆学会（解读科学发展观推荐书目）》
热门跟贴