AI超算竟然做到了重量仅300g,能够达到190TOPS算力,且本地能够运行120B的大模型!
初创公司Tiiny AI公司发布了全球最小的AI超算计算机 Tinny AI Pocket Lab,整体外观小巧玲珑,说其全球最小真的一点也不为过,整体大小就像以前的一个录音机大小一样,甚至能够轻松放进口袋。
打开网易新闻 查看精彩图片
尽管体积这么小,其硬件配置却不低,搭载了ARMv9.2 12核CPU以及80GB的LPDDR5X内存,整体算力达到惊人的190TOPS,最牛的是它宣称能够运行1200亿参数的超大模型。
虽然可以处理密集的运算,但是该设备在功耗上却控制的非常出色,TDP仅为30W,典型系统功耗也才仅仅65W。
它能够一键部署GPT-OSS、Qwen、DeepSeek等大模型,且无需依赖云端完全能够以离线方式进行操作,Tinny AI将会在2026年 CES 上正式发布该设备!
热门跟贴