近些年，AI风口的大势已成，且有着下沉本地的明显趋势，本地化、私有化的AI应用业已呈现出需求日益增长的明显势头。在这个风口浪尖上，技嘉科技推出了一款名为AI TOP ATOM的迷你桌面AI PC，且将其定位为“个人AI超级电脑”。将原本属于数据中心级别的算力，浓缩进一个适合办公桌面的紧凑机身中的它，有着怎样的神奇魔法？让我们一起来看看。
当技嘉AI TOP ATOM到达MC评测室时，它着实给了我们几分熟悉的陌生人的感觉，因为它在外观上和技嘉之前曾推出过的NUC产品颇有几分神似——小巧精致的机身设计，却蕴含着强大的性能潜力，让人忍不住想要一探究竟。作为一款面向开发者、科研人员及数据科学家的专业设备，技嘉AI TOP ATOM 的外观设计语言摒弃了传统游戏PC常见的夸张RGB灯效和激进线条，转而采用了一种更为沉稳、专业的极简工业风格。作为NVIDIA DGX SPARK的二次开发定制优化产品，这款桌面迷你AI PC，究竟能带来怎样的惊喜体验呢？
01
极简主义的工业美学
在技嘉的官网上，官方明确将其描述为具备“小巧紧凑”的机身形态。这款150mm×150 mm×50.5mm大小的机器仅略大于传统NUC产品，远小于传统的Mini ITX主机或小型化工作站。
这种设计让AI TOP ATOM能完美融入办公桌环境，不占用过多空间，方便用户在有限的办公区域内进行本地AI开发、原型设计及模型微调。而且整体造型趋向方正、规整，强调功能性与空间利用率的极致结合。
虽然是同源，但和NVIDIA DGX SPARK张扬的“土豪金”配色不同，技嘉AI TOP ATOM呈现出的是一种低调内敛的风格。它采用了银灰色的高强度金属外壳，能够确保结构的坚固性及对内部精密元件的保护。在表面采用哑光细磨砂工艺，能极大减少指纹残留并提升专业质感，同时还能辅助散热。
技嘉AI TOP ATOM的两个散热出口放在正前和接口一侧的尾部，采用了横栅格的通风设计，内侧辅以装饰条作为强化筋以保证栅格的稳固性。这种隐蔽式的进出风口设计，在保证散热的同时维持了AI TOP ATOM外观的整体性，且能较为有效地降低运行噪声，以适应安静的AI应用或设计创作环境。
▲机身整体采用银灰色调，十分低调。
▲GIGABYTE的Logo挡在正面的右下方，同样非常内敛，产品的整体一致性很优秀。出风口采用了栅格设计且设计了强化筋条。
▲技嘉AI TOP ATOM的背部接口按键布局。包括3个USB 3.2 Type-C、1个Type-C的240W电源接口、1个HDMI 2.1a视频输出接口、1个10Gbps RJ-45有线网络接口、1个NVIDIA ConnectX-7接口(和DGX SPARK一样，这个接口用于两台AI TOP ATOM互联实现算力、显存和带宽的翻倍增加)以及电源按键。
▲NVIDIA ConnectX-7智能网卡。用户可以通过该网卡轻松连接两套技嘉AI TOP ATOM系统，将显存和算力池化，从而支持高达4000亿以上参数的超大模型运行。这种“乐高式”的拼接扩展设计，让用户可以根据项目需求灵活升级，无需一次性投入昂贵的单一大型服务器。
▲右侧是肯辛顿微锁孔，用于产品的物理防盗。
▲左侧没有任何多余设计
▲底部设计了两个橡胶垫脚横条用于垫高产品辅助散热，同时底部的一侧采用了内凹槽的挖空设计，也能在一定程度上加强AI TOP ATOM的散热性能。
▲电源适配器240W最大输出，采用了Type-C接口。
02
NVIDIA DGX SPARK同款，128GB统一内存+NVIDIA Grace GB10芯片当家
在低调外观设计的背后，技嘉AI TOP ATOM的核心竞争力在于其内部架构的革新。它将服务器级的硬件规格塞入了桌面级的外壳中，这本身就是其最大的设计亮点。
在硬件层面，技嘉AI TOP ATOM内部最重要的元件是CPU+GPU一体封装设计的NVIDIA GB10 Grace Blackwell芯片，NVIDIA将其称为“Super Chip”。
NVIDIA GB10是一次基于先进封装技术的深度集成，远非CPU+GPU简单拼接那么简单。
首先，GB10采用了目前业界最先进的台积电3纳米制程工艺，不仅大幅提升了晶体管密度，更关键的是在高性能输出下实现了卓越的能效比，使得GB10芯片的TDP被控制在140W左右，完美适配桌面级散热系统。其次，NVIDIA对GB10芯片采用了2.5D CoWoS封装，将ARM架构的Grace CPU die和Blackwell GPU die封装在同一个基板上。这种物理上的极度接近，为两者之间的高速互连奠定了物理基础。
GPU部分是GB10芯片的灵魂，它继承了NVIDIA新一代Blackwell架构的全部精髓，但针对桌面AI应用场景进行了优化。这颗GPU内置6144个CUDA核心，与消费级显卡市场的GeForce RTX 5070一致。虽然在CUDA数量上相比B200这种NVIDIA旗舰数据中心显卡相去甚远，但在140W功耗限制下，GB10这一规模已属惊人。GB10集成了新一代Blackwell架构的Tensor Core，支持FP4、FP8等低精度计算格式。特别是FP4精度下的算力爆发，使其在推理场景下能释放出高达1000 AI TOPS的性能，支持运行高达2000亿参数的模型。这种性能密度在传统桌面PC中几乎不可见，通常只有机架式服务器才能提供。
GB10芯片内部并未板载大容量显存，而是通过统一内存架构访问系统内存。技嘉AI TOP ATOM机器中搭配了128GB MPDDR5X统一架构内存 (Unified Memory Architecture)，GB10内部的ARM CPU和Blackwell GPU共享这块高速内存池，消除了数据在两者之间拷贝的瓶颈，极大地提升了大模型训练和推理的效率，这也是针对AI工作负载进行的针对性硬件设计。同时，128GB统一内存的设计不仅能够轻松支撑千亿模型的NVFP4量化运行，还能满足“主模型+Embedding+Rerank”多模型并行运行的需求，为多任务处理预留了充足的内存空间。
技嘉AI TOP ATOM主机的CPU与GPU之间通过NVLink-C2C (Chip-to-Chip)技术连接，双向带宽是传统PCIe 5.0双向带宽的5倍左右。这种设计下，CPU和GPU可以像访问本地缓存一样访问彼此的内存空间，真正实现了统一内存架构。对于大模型推理而言，这意味着128GB内存可以被CPU和GPU无缝共享，彻底打破了“显存墙”的限制，让桌面PC也能流畅运行2000亿参数的大模型。这也是GB10和RTX 5070在CUDA核心数一致的前提下，AI算力却远超后者的核心原因之一。
GB10集成的CPU源自NVIDIA与联发科基于Arm v9.2架构定制，其拥有20个高性能Arm v9.2核心(10个Cortex-X925+10个Cortex-A725)，在CPU内部形成两个核心集群，每个CPU集群共享16MB L3缓存，总计32MB L3缓存。我们的基准测试数据显示，其单核频率可飙升至接近4.0GHz的程度，多核性能在Geekbench中也能达到10000分以上的成绩。这意味着在处理数据预处理、逻辑控制等非GPU任务时，GB10也拥有不逊色于中高端桌面x86处理器的实力，同时功耗表现更低，更适配紧凑型机身的散热需求。
技嘉 AI TOP ATOM产品资料
产品名称：GIGABYTE AI TOP ATOM
处理器：10个Cortex-X925+10个Cortex-A725
芯片组：NVIDIA GB10 Grace Blackwell Superchip
GPU：NVIDIA Blackwell GPU，6144个CUDA核心
AI性能：1 PetaFLOP算力(1000 TFLOPS(AI TOPS)，NVFP4精度)
内存：128GB LPDDR5x统一系统内存
内存位宽：256-bit
内存带宽：273GB/s
存储：最高支持Gen5 14000 MB/s SSD 4TB
接口：1×USB 3.2 Gen 2 Type-C (供电输入)、3×USB 3.2 Gen 2 Type-C、1×NVIDIA ConnectX-7、1×RJ-45接口(万兆以太网)、1×HDMI 2.1a、1×Kensington Nano安全锁孔
无线网络：Wi-Fi 7, Bluetooth 5.4
电源适配器：240W AC-DC适配器(USB Type-C输出)
操作系统：可选NVIDIA DGX OS、Ubuntu Linux
重量：约1.2 kg (2.64 lbs)
尺寸：高50.5mm×宽150mm×长150 mm
参考价格：N/A
03
实机体验，它就是完美的私人AI助理
本次我们拿到的技嘉AI TOP ATOM盒子内置了趋境科技与技嘉联合打造的趋境智问本地AI应用集成系统，用户拿到手中即可使用，无需经历复杂的AI应用环境配置与部署。这款产品内置了智谱GLM-4.5-Air 106B大模型，并搭载了趋境自研的“以存换算”推理引擎，主打“开机即用”与“单卡运行千亿模型”。我们在收到设备后，对其进行了为期一周的应用体验。必须说明的是，和完全能够量化每一个数据对比的游戏PC、商用PC评测不同的是，基于技嘉AI TOP ATOM这个AI超算盒子，我们更多是对其进行实际应用上的体验，希望能清晰地告诉消费者——它是什么，以及它能为你做什么。
我们测试的这台样机算是AI TOP ATOM的高配版本，内置了128GB DDR5内存、4TB NVMe SSD以及NVIDIA Grace Blackwell B10芯片。而在软件部分，操作系统应该是基于UBUNTU底层改进的趋境自研AIOS系统(请核实一下)，支持全图形化操作，上手不是特别困难。当然如果你对Linux系统完全陌生，可能还是需要一点时间去学习适应。
技嘉AI TOP ATOM机器内置了两个最核心的AI应用管理及本地部署的应用集群，分别是面向管理、监控层面的趋境AMaaS管理平台以及面向实际应用的趋境智问应用平台。而要达到“开箱即用，AI生活工作无障碍”的口号，技嘉AI TOP ATOM中集成的这两个系统平台当记首功。
04
趋境AMaaS管理平台
前文说过，技嘉AI TOP ATOM中已经集成了与趋境科技合作的本地部署AI应用平台，其中的趋境AMaaS(AI Model as a Service)就是它的后台中枢。而对于用户或者管理员来说，这更是一个图形化、零代码的运维神器。
基于图形化UBUNTU系统的基本操作，限于篇幅我们在此就不赘述了，不熟悉的用户可以自行学习，难度并不大。
▲开机之后，在浏览器界面输入“http://本机IP:10001”，即可打开趋境AMaaS登录界面，输入账号、密码即可登录管理后台(本次测试机的账号密码是随样机附带设置好的，正式量产品应该会在产品手册中设置默认账号与密码)。
▲登录AMaaS后台，就能看到数据概览仪表盘直观展示了GPU/CPU负载、显存占用、Tokens消耗量等关键指标，这里可以清晰地看到每个模型实例的资源分配情况。我们通过体验测试发现，动态图表刷新流畅，能够帮助消费者快速识别资源瓶颈。通过“使用量排行榜”，我们可以轻松识别出哪些用户或应用在大量消耗算力，从而优化资源配额。
▲平台内置了多款主流模型，无需手动下载配置，真正实现了“开机即用”。比如在最核心的LLM大语言模型方面，平台已经集成了GLM 4.5-Air NVFP4 106B大模型。在模型管理界面中可以看到，平台的模型核心是LLM大语言模型和VLM视觉－语言模型，此外还包括向量转化Embedding、重新排序Rerank、识别分析Paraser以及音频处理Audion等模型架构。
▲除了系统默认已经安装好的模型之外，玩家也可以自行下载喜欢或常用的模型进行安装。在“私有模型”界面下点击右侧的“+”即可导入下载的私有模型。注意，下载的模型需要放在“mnt/data/models”文件夹下才能被系统识别导入。注意在导入模型时需要根据模型类型正确设置各项参数(需要一定的AI模型相关知识)。
我们在体验测试中，以私有模型的方式下载了一个Qwen 2.5 7B模型，在导入之后可以在基于LLM模型的AI应用中取代默认的GLM 4.5 Air NVFP4 106B大模型。注意，要让导入的新模型生效，需要在配置界面中对其各项参数进行设置，并经过检测之后才能正常运行。
同时，在本次体验测试过程中，我们在技嘉AI TOP ATOM机器上同时启动了GLM-4.5-Air NVFP4对话、Embedding向量化和Rerank重排序三个实例。系统自动分配资源，互不干扰。这意味着单台设备即可构建完整的检索增强生成链路，无需多台服务器拼凑。
▲在“实验场景”选项下，则可以针对运行的模型进行简单测试体验，包括Tokens输出性能，响应时间，多模型输出速度对比等。
05
快速上手的小白式AI应用体验：趋境智问系统平台
如果说AMaaS是给管理员看的，那么“智问”就是给最终用户使用的。它不仅仅是一个聊天窗口，而且更是一个完整的AI工作台。
要登录技嘉AI TOP ATOM本机已经部署好的趋境智问系统，同样需要在浏览器中输入“本机IP:10002”以登录平台。在趋境智问系统平台下集成了几乎所有你能想得到的，跟办公、生活以及学习相关的各类应用，极大地节省了用户花时间去做本地部署的时间，对新手用户而言特别方便。
首先是基于LLM语言大模型的AI搜索和对话大模型，这两个应用体现的是知识搜索与智能文本生成应答。
技嘉AI TOP ATOM的AI对话界面，界面简洁直观，输入框设计合理，支持语音输入和文字输入。回答速度快，准确度高，尤其在专业领域表现出色。系统会根据上下文理解多轮对话，提供连贯的回答。因此它非常适合日常知识查询、学习辅导、专业咨询等场景。
测试发现趋境智问的对话响应迅速，回答质量高，支持多轮对话，能够很好地理解上下文且覆盖领域广泛，准确度非常高。不过它对于非常专业的冷门领域知识了解不够全面，有时回答过于保守，缺乏跳脱性的创新性见解。
AI应用分支下是一系列非常好用的AI办公智能助手功能，包括了智能朋友圈生成、智能小红书内容生成、智能月报、周报甚至是年度总结的生成，在这里你还可以进行文章校对纠错、润色以及调整语气等操作，同时还能设置各种提醒，整理会议纪要，甚至还可以让AI帮你写故事、演讲稿、发言稿等等。可以说，这是一个集中了智能问答、推荐、办公、创作以及日常事务管理的完美万能助手，而且上手使用也非常简单，纯图形化的操作界面给人感觉也很亲切，几乎不存在任何应用上的难度。
知识库的作用是将各类知识分门别类供用户检索。知识库板块资源丰富，分类科学，检索高效。知识图谱和专家问答功能亮点突出，为用户提供了权威、系统的知识服务。实时更新机制保证了信息的时效性，知识社区则增强了用户参与度。从体验试用的情况来看，趋境智问平台在新兴领域覆盖和跨学科整合方面还有提升空间，部分功能的深度和广度有待加强。
AI阅读板块是趋境智问AI系统为优化阅读体验设计的功能模块，借助人工智能提升阅读效率与理解深度。体验发现，趋境智问的AI阅读模块支持多种文档格式，有智能摘要、重点提取、翻译辅助等功能，助用户高效获信息。这一板块功能全，智能摘要和重点标注出色，提升阅读效率；多语言翻译质量高，能够以阅读理解辅助增强阅读深度。从我们实际感受而言，用户体验好，界面设计合理、操作流畅。只是在复杂文档处理和个性化阅读辅助上有提升空间，部分功能深度和广度有待加强。
长文写作也算是一个“乐子”意味比较重的模块。不得不承认，趋境智问在工作流的完整性上做得相当出色。对于需要快速产出标准化长文的用户，它几乎是一个“无脑友好型”工具。智能大纲与内容生成效率高、质量稳定，风格调整和润色功能显著提升文本质量。它的强项在于结构化思维，不会让你面对空白文档发呆，而是直接给出一份逻辑自洽的目录。虽然略显模板化，但对于克服大多数用户都存在的“启动困难症”极其有效，帮你完成写作之路上从0到1的突破。
不过实际体验中也发现它的弱项同样比较突出，它像是一个训练有素的初级文案，却尚未具备专家级洞察。在专业知识方面泛而不精，缺乏“惊喜感”。对于追求深度内容和独特视角的创作者来说，它提供的更多是素材堆砌，而非思想火花。因此，它能很好地解决“从无到有”的过程，目前无法达到完全的“从有到精”的程度，这还需要人为的后期干预修正。
整个体验试用中，会议助手功能给我们的印象是比较深刻的。会议助手板块功能全面，覆盖会议管理各环节。会议生成和实时记录功能出色，有效提升会议效率；摘要提取和行动项追踪功能实用性强，有力支持会议成果落实。整体用户体验良好，界面设计合理，操作流畅。
硬件配置和软件环境是基础，实际性能才是检验产品的核心标准。为了全面、客观地评估技嘉AI TOP ATOM，我们在体验测试过程中也对它的AI应用，尤其是基于LLM大模型下的应用状况进行了一些简单测试，在这里列出供用户参考。测试模型选择的是机器系统自带的GLM-4.5-air 106B NVFP4。
▲模型：Qwen 2.5-7B，输出1024Tokens。
▲GLM 4.5-Air 106B NVFP4，输出1024Tokens。
首先看在单发状态下针对不同长度提示词时技嘉AI TOP ATOM机器的文本输出速度情况。我们都知道，提示词越长，对总Tokens的消耗越高，输出性能表现也会随之降低。从测试情况来看，在Qwen-2.5 7B模型下，不同长度提示词下的文本生成输出速度(TPS)平均不到13Tokens/s，中规中矩。但在GLM 4.5-Air 106B NVFP4模型下，技嘉AI TOP ATOM在100字的提示词下平均文本输出速度为22.58Tokens/s，提示词为300字时平均文本输出速度为21.11Tokens/s，而当提示词为500字时，平均文本输出速度降低到了20.61Tokens/s。面对106B大模型，它的性能表现是比较优秀的，Blackwell架构中的Tensor Core针对NVFP4精度格式的加速显然在其中是功不可没。
在并行处理方面，技嘉AI TOP ATOM还是具备了比较不错的性能表现，在不高于4并发处理线程时，平均推理速度基本能保持在10 Tokens/s以上，不过当并发处理超过4时，性能下降还是比较明显的。但考虑技嘉AI TOP ATOM的迷你桌面级体积与功耗，这一表现已经让我们认为算是一份比较完美的答卷了，甚至你还可以将AI TOP ATOM作为一个简单的AI云服务器供数人共享使用。而且，有多线程并行处理需求的用户，还完全可以NVIDIA ConnectX-7接口组建AI TOP ATOM集群，以满足多任务并行处理的需求。
再来谈谈运行过程中的显存占用情况。从实际体验来看，当使用GLM-4.5-air 106B FP8原始模型时，运行时会出现爆显存的情况，显存需求远超128GB。不过当改为GLM-4.5-air 106B NVFP4模型时，整体运行过程显存占用约为68GB~69GB，大致相当于统一内存的一半，106B的大模型能够顺利启动运行没有障碍。
最后说一下，基于NVIDIA DGX SPARK的技嘉AI TOP ATOM迷你AI盒子也是完全可以自我部署热门AI应用的，比如Stable Diffusion WEBUI、ComfyUI等都可以自己部署，让自己的私人数据更加私密。当然，这一部分的应用与测试限于篇幅和时间，今天就不展开了，后续有时间我们会做一些相对详细的文章供大家参考。
▲自主部署ComfyUI
▲自我部署Stable Diffusion
06
开箱即用，你的最佳AI助理
从数日全场景的实际体验来看，技嘉AI TOP ATOM真正实现了桌面级AI超算的平民化落地，将原本需要专业技术团队耗时部署且仅能在数据中心实现的千亿参数大模型推理能力，浓缩进150mm×150mm×50.5mm的迷你机身中，更凭借图形化操作界面实现了4～5分钟快速启动模型上手，让私有化AI服务器的搭建彻底告别技术门槛。NVIDIA Grace Blackwell GB10芯片为核心，搭配128GB统一内存架构，在NVFP4精度下释放出1000 AI TOPS的强悍算力，不仅能流畅运行GLM-4.5-Air 106B这类千亿级大模型，还能支持2路、4路甚至8路(低Tokens输入)并发推理，即便在500字长提示词下，仍能保持稳定的文本生成速度，兼顾了算力表现与实际使用需求。
而与趋境科技的深度合作，更是让这款硬件拥有了完整的软件生态闭环：趋境AMaaS管理平台实现了模型、算力、用户的可视化零代码运维，让新手用户也能轻易上手。而趋境智问应用平台则覆盖了AI对话、办公创作、文档阅读、会议助手等日常工作生活的全场景需求，真正做到硬件算力+软件应用的一体化融合且全图形化界面的使用也非常简单。更重要的是，全本地化的部署模式，让数据在物理层面与云端隔离，从根源上解决了企业与个人对数据隐私、信息安全的顾虑，同时相比传统云服务器与大型AI工作站，大幅降低了AI应用的落地成本。
对于AI开发者、科研人员、小型工作室乃至有私有化AI需求的个人而言，技嘉AI TOP ATOM早已超越了一台桌面AI PC的定位，它是一套低成本、高效率、安全可控的全栈式私有AI基础设施解决方案。它让原本高高在上的AI超算走出数据中心，走进普通办公室、研发小组，让每个人都能拥有专属的私人AI助理，也让中小企业无需投入高昂成本，就能快速搭建起自己的AI应用体系。在AI本地化、私有化的发展浪潮中，技嘉AI TOP ATOM无疑为行业树立了桌面级AI硬件的新标杆，也为AI技术的全民化普及，提供了极具参考价值的落地路径。哪怕你是彻头彻尾的新手小白，也能在AI TOP ATOM上惬意地畅游AI世界，或许这就是这款产品在消费级市场上的最大意义与立足之本。当AI应用、开发不再是纯专业人士的专属，那么可以想象到的是——AI落地的未来必然就是一片坦途。
友情提示
MCer请注意，由于微信公众号调整了推荐机制，如果你发现最近很难刷到Microcomputer（微型计算机）公众账号推送的文章，但是又不想错过微机的精彩评测内容，可以动动小手指把Microcomputer设置成星标公众账号哦！
热门跟贴