8月6日消息,据The Information报道,字节跳动创始人张一鸣在7月举行的Seed团队全员会上表示,公司不会把蒸馏作为提升大模型能力的捷径,即使因此暂时落后于国内同行。报道援引两名参会员工及了解内部讨论的人士称,字节担心蒸馏美国前沿模型会重新引发审查,并给TikTok带来新的风险。
The Information称,张一鸣要求字节“愿意为长期目标牺牲一些短期收益”。这场会议发生在Kimi K3推出之后,The Information称,国内开源模型的进步加剧了Seed团队内部有关是否采用蒸馏的讨论。
月之暗面7月16日推出Kimi K3,官方称其是拥有2.8万亿参数、原生视觉能力和100万token上下文的开放模型,成为最强开源模型。这让是否借助蒸馏加快追赶,成为Seed团队需要讨论的内部选择。
蒸馏本身是大模型训练中的常见方法。Anthropic今年2月发布公告称,蒸馏被业界广泛、合法地使用;但该公司同时指控中国企业提取模型能力。Anthropic将这些行为称为“蒸馏攻击”,并称其违反服务条款和地区限制。
TikTok在美国已完成一轮治理结构重组。美国白宫2025年9月公布的框架和TikTok今年1月的公告显示,TikTok美国数据安全合资公司由美国投资者持有多数股权,银湖资本、甲骨文和MGX各持股15%,字节保留19.9%。美国用户数据、推荐算法和内容审核由这家合资公司按安全安排管理;TikTok全球在美实体继续负责全球产品互联,以及电商、广告和营销等部分商业活动。
字节官方页面显示,Seed2.1系列已推出Pro和Turbo两个版本,重点覆盖通用智能体、代码工程和多模态任务。截至8月6日,Arena AI的前端网页开发Reference-Based Design子榜把Seed2.1 Pro Preview列在第24位,得分为1529。(易句)
(本文由AI翻译,网易编辑负责校对)
热门跟贴