最近,一段据说来自字节内部会议的话传得很热。
张一鸣表示,豆包不依靠蒸馏提升模型能力,哪怕因此暂时落后,也要为长期目标牺牲短期利益。
话说得很漂亮。
大模型的竞争已经卷成这样,还有人宁可慢一点,也拒绝抄作业。听起来脚踏实地,颇有几分“虽千万人吾往矣”的悲壮。
可我的第一反应不是脱帽致敬,而是有点想笑:
什么时候轮到字节教育别人不走捷径了?
就拿蒸馏来说吧。
这本来就是一种常见的模型训练方法。老师把能力传给学生,大模型把一部分知识和行为模式压缩给小模型。
跟着老师学习有什么不行的呢?您要是硬说它不合理,无非就是差个授权,“竟敢不交学费来偷师。”
那么问题来了,之前字节旗下的番茄小说的签约条款里面,为什么白纸黑字清晰地写着,要求作者允许小说被AI学习呢?本来要交给作者的学费又是被谁私吞了?
自己屁股不干净,现在倒嫌别人脏了,可真逗。
字节最伟大的商业创新,不是生产了多少好内容,而是解决了一个更赚钱的问题:
怎样让一个人停不下来。
以前的门户网站,多少还要操心今天什么新闻重要,什么内容值得摆在首页。到了头条和抖音这里,问题变简单了。你不需要知道什么对用户重要,只需要猜中他下一条还想看什么。
喜欢成功学,下一条还是成功学;相信阴谋论,后面排着队给你补证据;刚觉得一个主播很烦,打开评论区发现满屏都是骂声。
算法未必恨谁,也未必存心把谁养傻,它只是太勤快了。你在一条视频前多停了几秒,它不关心为什么,只默默地写上一笔“这东西用户喜欢”。
这就像什么呢,好似厨师不研究营养搭配,只研究糖放多少最上瘾,油炸几遍最酥脆。一切垃圾食品,往往都是以最诱人的形象出现。
天天投用户所好,这才是捷径。
回答“ 什么内容更有价值 ”这问题太难,莫不如直奔最容易赚钱的那道题——什么让人上瘾。
技术上非常先进,商业上极其成功,文化上……可能并没有什么文化。
如今,靠着研究人性弱点一路狂奔的平台,突然开始讲“不走捷径”,多少有点地沟油冶炼厂教育同行少放添加剂的意思。
我不觉得“ 蒸馏 ”有多低劣,正如我不觉得“ 拒绝蒸馏 ”有多高尚。不蒸馏竞品模型,天天变着花样压榨作者、把作品榨出汁来滋润模型,您觉着这行为就更崇高吗?
头一次听说,有人觉得“ 拿刀砍 ”比“ 拿枪突突 ”更文明。
技术归技术,道德归道德。使用落后的技术不代表更道德,产品性能差不代表公司更有原则。
这是最基本的逻辑问题。
领先就是领先,掉队就是掉队。你可以阐述路线选择背后的考量,可以展示未来三到五年的投入计划,可以解释为什么现在慢了半拍,但不能等落后既成事实,再宣布我们其实在搞长期主义。
失利之后才开始讲牺牲,无非是找一张纸糊住漏风的窗罢了。
互联网公司最不缺的就是这种掩耳盗铃般的叙事。
增长快了,讲降维打击;裁员了,叫组织优化;烧钱了,说教育市场;落后了,喊拒绝捷径。
反正生意可以输,故事不能输。利润与道德制高点,总有一个得在上面。
我是觉得这样的演戏没什么意思,天下乌鸦一般黑,谁也别装白莲花。商业竞争就是商业竞争,大家都在利用自己的资本、流量、数据和生态寻找优势。
豆包最大的底牌,也从来不是什么清高与原则,而是抖音这台巨大的流量机器。
别的模型辛辛苦苦铺客户端、送额度争用户,豆包可以直接住进亿万用户每天都要打开的产品里。这算不算捷径?
这条高速路,可比“ 蒸馏 ”宽多了。
所以,你可以说自己不蒸馏,可千万别喊自己不走捷径。不依赖外部模型,尚可归结为技术志气;把暂时落后说成不肯同流合污,就有些装过头了。
证明长期主义的最佳方式,是靠手,而不是靠嘴。
热门跟贴