follow us
AING硬迹
一个硅谷式的“神童”剧本，押注端侧AI。
2026年10月初，硅谷个人AI助理领域的“热浪”掀到一个新高度：Meta的Muse上线数周下载量突破280万，Instinct以100亿美元估值拿下10亿美元融资，OpenAI、xAI相继杀入。大厂们纷纷凭借各自生态从云端切入，而一位年轻人却反向出牌，他推出了一款完全在本地运行的AI助手Underdog，刚刚完成首轮融资。
这位年轻人是Sigil Wen，Thiel Fellowship获得者（该项目资助年轻人跳过大学直接创业）。他的公司Conway Research刚完成的种子轮，由Andreessen Horowitz（a16z）领投，Khosla Ventures、Hummingbird、SV Angel及由Anthropic与Menlo Ventures联合设立的Anthology Fund参投，天使投资人名单里则有Stripe联合创始人Patrick Collison、前OpenAI研究员Noam Brown、Vercel创始人Guillermo Rauch等人。
从黑客屋到a16z
Wen出生于多伦多的华人移民家庭，他17岁只身来到旧金山，一度睡在WeWork里。后来住进了一间著名的AI黑客公寓，他的室友包括AI领域的传奇研究者Andrej Karpathy，一同工作的还有Perplexity创始人Aravind Srinivas和OpenAI研究员Noam Brown。
他测试了后来改变世界的AI产品的早期版本——Anthropic联合创始人Ben Mann分享给他的一个聊天机器人，后来变成了Claude；David Holz展示的图像生成器，后来变成了Midjourney；还有GPT-3和Stable Diffusion的前身。出于好玩，他甚至让GPT-2在自己的Apple Watch上跑了起来。
初到旧金山时，他几乎没有什么人脉网络，没有大学文凭，没在大厂上过班，也没发表过任何学术论文。机缘巧合下，2021年，他帮Naval打造语音社交应用Airchat，招募了大部分工程团队，并成为Naval旗下基金Spearhead最年轻的成员。2025年，他拿到Thiel Fellowship；2026年2月，他发表的《Web 4.0》一文在48小时内获得1000万次阅读。
他在这篇文章中提出，互联网的下一个阶段不再是人机交互，而是AI与AI之间的经济交互：AI代理将拥有自己的钱包、收入和执行交易的能力，成为独立的“经济主体”。这一思想框架深刻影响了Underdog的产品哲学。
产品：Husky引擎 + 两套本地模型
与当前主流AI助手普遍依赖云端数据中心进行推理不同，Underdog将全部AI推理过程放在用户设备上完成。用户的对话记录、个人数据与使用行为均不会上传至云端服务器。Underdog目前以邀请制beta形式发布，支持macOS和Windows，Linux、iOS和Android版本即将推出。
Wen为此专门开发了一个名为Husky的推理引擎。与传统端侧引擎不同，Husky的设计核心在于减少CPU与GPU之间的数据传输损耗，从而大幅提升运行效率。根据官方公布的测试数据，Husky在Apple Silicon上运行Woof 4B模型时，处理速度可达每秒730个token，是苹果自家MLX框架的4.5倍，MacBook上最高可达730 tokens/秒。
在模型层面，Underdog公开的小模型Woof约40亿参数（4-bit量化后仅2.37GB），占用空间不到2.5GB，适合对资源更敏感的设备；主力模型Underdog 27B基于Qwen3.8-27B微调的参数推理模型。Wen坦言，这个规模远小于数据中心托管的最先进模型，但他指出该模型在部分基准测试中的表现“接近Claude Opus 4.6”。他认为，对于购物调研、解答数学作业等日常场景，这一能力已经足够使用。
并且，Wen认为：随着小型模型的持续进化，端侧AI的能力将继续向云端模型靠拢。
在安全性方面，Underdog还内置了对用户授权访问的邮箱及其他账户凭证的加密保护机制，从底层架构上降低了数据泄露的风险。
靠交易抽成赚钱
令人侧目的还有Underdog的商业化设计：产品初期完全免费，承诺永不投放广告、不收订阅费。因为算力全部跑在用户自己的硬件上，基础设施成本大幅下降。公司真正的收入来源，是从通过Underdog内置Stripe基础设施完成的支付交易中抽取极小比例的佣金。
这套模式的逻辑在于：公司利益与用户经济活动对齐，而非与用户数据对齐——不需要采集、存储或变现个人信息。它赚的不是用户的数据，是用户经它手完成的交易。
当下几乎所有主流AI助手都面临一个根本性的利益冲突：当下AI助理越能干，要看的隐私就越多，产品的“智能”依赖于获取用户的个人数据，而数据的收集又可能被用于广告投放或模型训练。
Wen将其商业模式比作银行或信用卡提供商，它服务于用户的利益，而非通过挖掘数据来变现。“这种模式从根本上切断了AI助手‘挖掘用户数据’的经济动机。”Wen坦言。
今天在数据中心才能实现的尖端AI能力，或许六个月后就能跑在个人设备上。
端侧AI
今年在personal AI上的竞争激烈。
23岁的辍学生Noah Shinn创办Instinct在2026年8月才推出邀请制服务，但一个月内便完成了从25亿美元到100亿美元估值的火箭式跃升，C轮融资高达10亿美元，投资方包括红杉资本、Benchmark和Coatue。Instinct的独特之处在于它没有App，用户通过短信、电话或邮件即可使用，AI代理会主动打电话给用户，甚至能替用户退掉不需要的订阅服务。
科技巨头Meta于2026年9月发布了个人AI智能体Muse，上线仅5天就超越ChatGPT登顶美国iOS免费应用榜，13天内累计下载量超过250万次。Muse的定位是“替你办事的AI智能体”，可以自主浏览网页、填表、订餐、比价、处理邮件，并深度整合了Instagram、WhatsApp等Meta社交生态。
Underdog将“隐私”从产品特性提升为架构基石，而值得注意的是，2026年端侧AI也正在从技术验证期跨入规模化商用临界点。
芯片厂商在纳米尺度上贴身肉搏，手机和PC品牌将“端侧智能”写入旗舰产品的核心叙事，初创公司以数十亿估值涌入这条赛道，而一场由内存带宽引发的结构性瓶颈，催化了市场的关键变量。
头部芯片/模组厂商正通过垂直整合把内存、逻辑计算与I/O集成进单一封装，构筑“硬件+算法+平台”的闭环壁垒。比如英伟达推出DGX Spark类“桌面超算”产品，本质上是把数据中心级算力压缩进个人设备，为“本地跑前沿模型”提供了另一条硬件路径；高通也在持续为端侧智能体的核心引擎。
另外端侧AI的创业热度也再度拉升，2026年以来端侧AI芯片赛道就涌现了多笔重量级融资：原粒半导体、光羽芯辰、聆思科技、微纳核芯等初创企业均完成超亿元级融资。
终端品牌正在将端侧AI从“功能叠加”转变为“原生智能体”产品架构。比如AI PC 领域，联想、惠普、戴尔等品牌已将端侧AI能力作为新品发布的标配卖点；2026年7月国家网信办首次集中公布了7款手机端侧生成式AI服务的备案信息，涉及苹果、华为、OPPO、vivo、小米、三星和努比亚七家厂商。
在芯片和终端之间，端侧模型是决定用户体验的关键中间层。这个领域的竞争围绕一个核心指标展开：能力密度，即在越小的参数规模内塞进约高的智能水平。国内面壁智能、智谱等一种玩家纷纷推出了端侧大模型，将大模型的能力“蒸馏”进更小的参数空间，加码端侧AI的落地应用。
芯片层和系统层已经扼住了硬件与入口，而Underdog这类新玩家抢的是系统级玩家还没把个人AI助手做成默认功能这个窗口期。
硬迹正在打造AI硬件社区，对加入社群感兴趣的读者，欢迎add:AINGmaker0411加入【AING硬迹产业交流群】。
AING硬迹
AING，取自“AI+ING”的缩写，中文谐音“硬迹”，寓意着“人工智能正当其时”，致力于追寻硬科技发展的足迹，不断探索人工智能与智能硬件的深度融合。
未来，AING硬迹将不断发布AI大模型技术、AI产业生态、AI硬件产品等行业资讯、发展趋势与市场动态，我们相信大多数硬件都值得用AI重做一遍，AING硬迹期望与AI大模型厂商、与AI硬件厂商共同成长，迎接AI时代的来临。
人工智能正当时
一起追寻AI+硬件的足迹
热门跟贴