本期为TechBeat人工智能社区第729期线上Talk。
北京时间11月27日(周三) 20:00，香港大学博士生吴太强的Talk将准时在TechBeat人工智能社区开播！
他与大家分享的主题是：权重视角下的大语言模型后训练过程，届时将从权重的角度出发，探讨后训练前后大语言模型权重的变化，并会进一步介绍这种权重特性派生出的一系列的方法设计与重新思考。
Talk·信息
主题：权重视角下的大语言模型后训练过程
嘉宾：香港大学 · 博士生 - 吴太强
时间：北京时间11月27日(周四) 20:00
地点：TechBeat人工智能社区
http://www.techbeat.net/
Talk·介绍
后训练作为激发大语言模型推理潜力的必要步骤，受到社区的广泛关注。本次分享将从权重的角度出发，探讨后训练前后大语言模型权重的变化。分析表明，权重视角下，后训练的更新量很小，且对几乎不改变权重的有效秩，这些观察与社区里后训练是一个很浅的过程这一结论相互印证。此外，本次讲座也会介绍这种权重特性派生出的一系列的方法设计与重新思考。
Talk大纲
1. 背景：介绍模型的后训练主流做法，介绍权重视角分析的必要性
2. 动机：从权重角度切入，加深对后训练的理解，启发新的方法设计
3. 贡献：本 talk 将分享权重视角下的诸多分析，介绍有关的应用以及一些未来可能的改进方向
4. 总结：希望大家更能多关注权重，权重是梯度的累积，也是特征的映射变换
Talk·预习资料
论文链接： https://arxiv.org/abs/2505.12716
论文链接： https://arxiv.org/abs/2509.23595
论文链接： https://arxiv.org/abs/2510.10977
Talk·提问交流
在Talk界面下的【交流区】参与互动！留下你的打call和问题，和更多小伙伴们共同讨论，被讲者直接翻牌解答！
你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！
Talk·嘉宾介绍
吴太强
香港大学 · 博士生
吴太强，本科毕业于清华自动化系，硕士毕业于清华深圳国际研究生院，师从杨余久教授。目前在香港大学电机电子工程系攻读博士学位，主要研究方向是高效大语言模型，包括模型压缩与参数高效微调。
曾在NAACL, EMNLP, WSDM, COLING 等顶会发表多篇一作论文，代表作有 MoSLoRA (Mixture-of-Subspaces in Low-Rank Adaptation) 和 Rethinking KL (Rethinking kullback-leibler divergence in knowledge distillation for large language models) 等。
个人主页: https://www.techbeat.net/grzytrkj?id=9169
-The End-
如果你也想成为讲者
自荐 / 推荐
单人Talk | 团队专场 | 录播or直播 | 闭门交流
多种方式任你选择！
推荐讲者成功也有奖励哦~
关于TechBeat人工智能社区
TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。
我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。
期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！
更多详细介绍>>
预约本期Talk
热门跟贴