据智能涌现报道,前阿里、字节大模型带头人杨红霞近日创立AI公司InfiX.ai,致力于推动大模型预训练"去中心化",让中小企业和研究机构都能参与其中。
杨红霞曾带领林俊旸、周畅等团队成员在阿里达摩院开发出通义千问前身M6大模型。2024年7月从字节离职后,她选择加入香港理工大学并创立InfiX.ai。
InfiX.ai近期开源了全球首个FP8训练"全家桶",包括预训练、监督微调和强化学习。该方案在模型性能几乎无损的情况下,将端到端训练速度最高提升22%,显存峰值最高节省14%。
公司同时推出了模型融合技术InfiFusion,可实现不同领域"专家模型"的知识融合。基于该技术训练的医疗多模态大模型InfiMed-RL-3B,在七大医疗基准测试中超越谷歌的MedGemma-4B-IT。
杨红霞表示:"通用人工智能不应成为一场仅限于顶尖玩家的算力竞赛。"她选择从最具挑战性的癌症医疗领域切入,以证明模型能力的区分度。
目前InfiX.ai已完成超募融资,团队规模约40人,成员多具备顶尖技术背景。公司获得了香港产学研项目支持,在算力资源上享受90%的减免折扣。