follow us

AING硬迹

我们都知道，现在的绝大部分AI硬件都是使用三段式的方法在云端进行大模型的调用与接入。而如今，我们也看到端侧方案正在逐渐涌现。

近日，致力于打造端侧原生 AI 的新锐企业本智激活宣布完成数千万元人民币种子轮融资，本轮融资由云启领投，BV 百度风投、光源资本跟投。公司以全栈自研能力打通模型与端侧算力之间的技术断点，率先实现了大模型在手机、PC 等主流终端的低成本高效部署。

在传统的云端AI的模式下，将数据资产转化为个人AI助理还有许多的难点：隐私监管问题、高昂成本和延迟的问题。而面对这些问题，本智激活提出了“端侧原生”全栈设计破局——不依赖模型压缩，而是从底层重构软硬件技术体系，在不牺牲模型智力的前提下，实现真正的端侧智能。

团队率先达成了端侧大模型、端侧基础设施及硬件优化之间的协同设计与极致调校，专注于在确保用户隐私 100% 安全的前提下，让强大的 AI 能力自然融入日常生活场景。当传统 AI 还在为云端延迟与隐私问题左右为难时，本智激活已通过充分挖掘端侧设备的极限潜力，将 AI 的未来掌控权交回到用户手中。

从数据上来看，本智激活的团队在2023年12月就发布了 PowerInfer 端侧大模型 Infra 系统，突破性地实现了在消费级 NVIDIA GTX 4090 GPU 上高效运行千亿参数大模型的能力，其性能达到数据中心级 A100 GPU 的 90%，推理速度较前代技术提升最高 11.69 倍。2024年6月，团队推出PowerInfer-2，在手机上流畅运行470亿参数模型。2025年7月，本智激活将联合上海交大发布并开源全球首批端侧原生大模型，采用原创算法架构从零开始预训练，为端侧智能带来全新的解决方案。

AING硬迹正在打造AI硬件社区，对加入社群感兴趣的读者，欢迎扫码下方二维码加入【AING硬迹产业交流群】。

AING硬迹

AING，取自“AI+ING”的缩写，中文谐音“硬迹”，寓意着“人工智能正当其时”，致力于追寻硬科技发展的足迹，不断探索人工智能与智能硬件的深度融合。

未来，AING硬迹将不断发布AI大模型技术、AI产业生态、AI硬件产品等行业资讯、发展趋势与市场动态，我们相信大多数硬件都值得用AI重做一遍，AING硬迹期望与AI大模型厂商、与AI硬件厂商共同成长，迎接AI时代的来临。

人工智能正当时

一起追寻AI+硬件的足迹