打开网易新闻 查看精彩图片

导语

集智学园联合东京都市大学贾伊阳老师共同开设了「」课程,本系列课程将以严谨的理论推导为核心,逐步建立泛函分析的基础架构。第一阶段将探讨从有限维跨越到无限维的动机与基础;第二阶段将重点建立度量与完备性,掌握 Banach 空间与不动点定理的精髓;第三阶段将深入探讨 Hilbert 空间的几何结构与对偶空间的映射体系。最终,在第四阶段,将梳理完整的结构总览与应用地图,透视这些纯粹的数学工具如何作为底层基石,广泛应用于现代物理、复杂系统模拟与前沿计算科学中。

作为系列课程的第八讲,贾伊阳老师将以「正交与投影:最小化问题的核心」为主题,本节内容将聚焦最小二乘、数据拟合与信号滤波场景,深入剖析投影定理、最佳逼近及傅里叶系数原理。来建立深刻的几何直觉,透彻理解“变分法的本质即为正交投影”,从而掌握解决最小化问题的核心。正式分享将于5月31日(周日)19:00-20:30进行。

打开网易新闻 查看精彩图片

主题:正交与投影:最小化问题的核心

课程简介

岭回归为什么能抑制过拟合?图像去模糊为什么离不开正则化?最小二乘的解何时会被噪声放大到失稳?这些机器学习与信号处理中反复出现的问题,背后是同一个数学结构——在 Hilbert 空间中求最优逼近,本质上是一次正交投影。

本讲从最小二乘与正规方程出发,先把“求最优解”翻译成“求正交投影”,再揭示当算子接近奇异、特征值趋近零时投影解为何不稳定,由此引出不适定问题。随后用 Moore–Penrose 广义逆给出最小范数解,用 Tikhonov 正则化把不稳定的最小化问题稳定下来,并从谱滤波与 Fourier 滤波的角度解释正则化在频域里究竟做了什么。最后提升到 RKHS,说明核岭回归就是无限维空间中的正则化。学完能看清线性回归、岭回归、核方法与图像反演共享的同一套“投影—正则化”框架。

课程大纲

  • 补充数学:谱理论与 Hilbert 空间算子

  • 正交投影作为最优化结构

    • 从投影问题到算子方程

    • 不适定问题与广义逆

    • 正则化与谱滤波

    • RKHS 中的提升

关键术语

  • 伴随算子:算子的“转置”在 Hilbert 空间的推广,把残差从观测空间映回参数空间。

  • 正规方程:最小二乘问题的最优性条件,由残差与值域正交导出。

  • 正交投影:把向量投到子空间上的最近点,即最优逼近。

  • 谱分解 / 投影算子值测度(PVM):按算子的作用方式把空间分解为本征子空间的工具。

  • 不适定问题:解不存在、不唯一或不连续依赖数据的问题。

  • Moore–Penrose 广义逆:在无逆或多解时给出的最小范数最小二乘解。

  • Tikhonov 正则化:在最小化目标中加入范数惩罚项以稳定解,即岭回归。

  • 谱滤波:在算子的谱(特征值)上加权,压制趋零特征值方向的放大效应。

  • RKHS:再生核 Hilbert 空间,函数取值由内积(核)再生的空间。

  • 核岭回归:在 RKHS 中做 Tikhonov 正则化的回归方法。

课程信息

课程主题:正交与投影:最小化问题的核心

课程时间:2026年5月31日(周日) 19:00-20:30

课程形式:腾讯会议(会议信息见群内通知);集智学园网站录播(3个工作日内上线)

课程主讲人

贾伊阳,东京都市大学讲师、前日本女子大学助理教授,前日本成蹊大学助理教授。研究重点是计算复杂性,算法,以及范畴相关理论。集智学园《》课程讲师。

课程适用对象

  • 做微分方程、数值算法、反问题、信号处理、控制的学习者与研究者

  • 做优化、机器学习、统计推断,希望理解正则化与泛化的结构来源的研究者

  • 读量子/数学物理文献,希望把 Hilbert 空间与算子语言用顺手的研究者

  • 更广义地:经常处理“函数作为未知量”的问题、并且想要一套可迁移框架的研究者


你会获得
  1. 面对一个新问题,你能先问对问题:该在哪个空间里解?该用哪个范数衡量误差?需要什么完备性?算子是否有界?

  2. 你能理解常见方法背后的统一逻辑:迭代为何收敛、正则化为何稳定、最小二乘为何等价于投影、弱解为何成立。

  3. 你会获得一套“抽象但可落地”的语言:写证明、读论文、做建模时,能把碎片化技巧收束到结构层面。


报名须知
  1. 课程形式:腾讯会议直播,集智学园网站录播。本系列课程不安排免费直播。

  2. 课程周期:2026年3月29日-2026年6月14日,每周日晚19点-21点进行。

  3. 课程定价:原价499

    1. 早早鸟价299,截止时间:2026年3月22日中午12点

    2. 早鸟价399,截止时间:2026年3月30日中午12点

课程链接:https://campus.swarma.org/v3/course/5700?from=wechat

付费流程:

  1. 课程页面添加学员登记表,添加助教微信入群;

  2. 课程可开发票。

课程共创任务:课程字幕

为鼓励学员深度参与、积极探索,我们致力于形成系列化知识传播成果,并构建课程知识共建社群。为此,我们特别设立激励机制,让您的学习之旅满载收获与成就感。

课程以老师讲授为主,每期结束后,助教会于课程群内发布字幕共创任务。学员通过参与这些任务,不仅能加深对内容的理解,还可获得积分奖励。积分可兑换其他读书会课程或实物奖品,助力您的持续成长。