什么是「研究兴趣」?John Schulman 给出的定义是:洞察哪些想法会成为重要且可组合的成果。这项能力在 AI 研究员身上被视为核心竞争力,却极难教给模型。
在 a16z《Working Theory》播客的一场对话中,Schulman 与 Mark Chen 围绕这一话题展开讨论。Mark Chen 做了一个区分:「兴趣」对应的是想法生成(idea generation),与参数调优能力是两回事。他指出,模型在创意构思方面仍然有限。
两人谈到的路径是通过人类反馈强化学习(RL),把研究员的直觉「蒸」进模型里。按对话中的说法,这实质上是将人类直觉内化于 AI 之中。
这场对话收录于 a16z 的《Working Theory》播客,主题指向 AI 递归自我提高之路。讨论的核心问题很直接:辨别长远重要想法的能力为何难教给 AI,以及如何借助人类反馈强化学习来逼近这一目标。
一边是模型在想法生成上的短板,一边是把人类直觉内化的尝试,两条线索在对话里交汇。对关注 AI 研究前沿的人来说,这提供了一个观察递归自我改进路径的具体切口。
热门跟贴