硅基流动则是致力于打造标准化、超高效能的生成式AI Infra(AI基础设施)平台,产品支持全球最前沿的大语言模型及多模态模型推理。
全文1164字,预计用时1分钟。
作者|大刀
视觉来源|Pexels
供应链范式获悉,AI初创公司“硅基流动”(SiliconFlow)宣布已完成近亿元天使+轮融资,本轮融资由某知名产业方领投,智谱AI、360和水木清华校友基金及老股东耀途资本跟投,华兴资本担任独家财务顾问。
对于本轮融资,硅基流动创始人兼CEO袁进辉表示,资金将用于进一步加快产品创新,为开发者提供触手可及的AI云服务,促进AI应用层的繁荣,推动AGI技术普惠化。
硅基流动上一轮融资于2024年1月完成,投资方为创新工场、耀途资本、奇绩创坛及前美团非执行董事王慧文。
天眼查信息显示,硅基流动,全称为北京硅动科技有限公司,起步于2023年8月,是一家人工智能优化和部署解决方案提供商,专注于做AI Infra(AI基础设施)层中的推理框架,服务大模型应用。
通俗来讲硅基流动所在的AI Infra,是上接AI应用层、下接算力芯片层的中间层,相当于大模型时代的“操作系统”。其要解决的关键问题是,如何让大模型训练和推理更高效,充分释放底层硬件的潜力,降低生成式AI应用开发的门槛与成本。
硅基流动则是致力于打造标准化、超高效能的生成式AI Infra(AI基础设施)平台,产品支持全球最前沿的大语言模型及多模态模型推理。
公司自研的SiliconLLM大模型推理引擎,通过内核、框架、机制和模型协同优化,推理效率达到业内SOTA,生成速度较同类开源产品快10倍以上,同时,在MoE(混合专家)架构、超长上下文、超低延迟等要求严苛、需求复杂的推理场景达到业界超前的产品能力。
多模态推理方面,硅基流动开源的 OneDiff推理加速引擎性能较开源同类产品性能提升高达3倍,已达到百毫秒级的端到端图片生成速度,用户体验可以达到Prompt实时生成。此外,硅基流动推理套件在3090、4090消费卡上推理性能表现优异,可以为开发者大幅降低大模型推理部署成本。
据悉,硅基流动于今年6月正式推出了新产品——一站式云服务平台SiliconCloud,平台提供高效能、低成本的多品类AI模型服务(MaaS),公测上线一个月便获得了快速增长,平台用户日均调用数十亿Token。
SiliconCloud不仅上线了多款全球最新、最强大的开源模型,还通过自研推理引擎套件(SiliconLLM & OneDiff)大大降低大模型推理成本,为用户提供超高性能体验,用技术让开发者实现Token自由,助力开发者和企业聚焦产品创新,而无须担心产品大规模推广所带来的高昂算力成本。
截至目前,硅基流动的产品已经在包含大语言模型推理、文生图、视频生成等多个行业中广泛应用。此外,硅基流动还与国内外多家大客户建立战略合作伙伴关系,面向算力供应商、大模型厂商及AI应用厂商提供灵活、高效的AI Infra能力。
团队方面,创始人兼CEO袁进辉本科毕业于西安电子科技大学,2003年考入清华大学计算机系,是前One Flow(一流科技)创始人及CEO,曾任微软亚洲研究院主管研究员,发明了世界上最快的大模型主题模型训练系统LightLDA,获得微软亚洲研究院院长特别奖。【供应链范式】
热门跟贴