M5Stack推出了其24 TOPS AI Pyramid Pro金字塔形桌面电脑。除了其新颖的设计,这款新硬件是专门为本地运行人工智能(AI)而设计的,而不是依赖云端。

所以,它更像是一个“AI设备”,而不是传统的PC。它的形状像金字塔主要是为了好玩和品牌形象,但内部却是严肃的边缘AI硬件。

这款设备体积小巧,配备8GB内存,强大的视频编码/解码能力,支持多摄像头,拥有丰富的I/O接口,并且低功耗。它还提供两个HDMI 2.0端口、四个USB-A 3.0端口和两个USB Type-C端口。

说到它的计算能力,24 TOPS真是相当令人印象深刻。TOPS代表“每秒万亿次操作”,这意味着它每秒能执行24万亿次AI运算。

金字塔形的AI性能

金字塔形的AI性能

虽然这与游戏PC的性能差距很大,但对于设备上的AI来说,这仍然非常强劲,尤其是在其标称的250美元价格下。

据报道,这款新设备是专门为实时计算机视觉、语音识别和物体检测而设计的。

它还经过优化,能够同时运行小到中型的LLM(量化版本,而非ChatGPT规模)和多个摄像头的视频流。为了将这些功能浓缩到一个小设备中,M5Stack 选择不使用图形处理单元(GPU),而是采用了一种称为Arm中央处理单元(CPU)的处理器。

这非常高效,所需的功耗也很低。该设备还配备了一个专门设计的神经处理器,虽然在AI任务上速度很快,但在其他功能上则相对较慢。

这使得金字塔计算机在AI接口方面既快速又安静,且功耗相对较低。然而,它并不适合游戏、高负载编码应用或一般桌面使用。

它的一个突出特点是据说能解码多达十六路1080p视频流。这意味着它可以同时处理多个摄像头,并对它们进行分析。

这意味着它能够轻松进行检测、跟踪和人脸识别。这使得它非常适合于智能安防系统、AI摄像头中心,或者作为工厂及其他建筑的边缘网关。

并不适合普通消费者

并不适合普通消费者

在本地托管人工智能(而不是在云端)也带来了一些有趣的好处。例如,它提供了更好的隐私,因为捕获的视频或音频资料始终保留在本地网络中。

这台新计算机的延迟更低(实际上是即时响应),而且没有像云服务那样常见的按使用收费。它还可以在没有持续互联网连接的情况下正常工作。

理论上,这使得它对家庭助手、小型企业和工程师在原型开发边缘人工智能产品时非常有吸引力。该设备还配备了一个特殊的微控制器,能够处理电源监控、按钮、状态屏幕和RGB LED灯环。

鉴于新型金字塔计算机的专业特性,它并不奇怪。相反,它的目标受众可能是边缘人工智能开发者、嵌入式工程师以及进行严肃人工智能项目的创客。

它也会吸引那些想要Jetson那样能力但又不想花Nvidia那么多钱的人。