导语

大模型产业加速下沉,智慧工地、园区、加油站、交通等边缘场景,普遍面临云端大模型三大痛点:网络波动带来推理延迟、业务视频数据上传存在安全合规风险、长期API调用成本居高不下。针对行业离线私有化AI需求,英码科技推出深元DEP05A边缘智能工作站,采用RK3588作为系统主控,支持双路AI加速模组扩展,整机最高46TOPS@INT8算力,兼顾多路视频编解码、工业级宽温硬件与完善AI开发生态,一站式实现边缘端本地大模型落地。

打开网易新闻 查看精彩图片

01 算力灵活扩展 承载端侧大模型部署

深元DEP05A原生预留2个RK182x AI加速模组接口,支持单/双模组灵活配置,按需扩展AI算力,满足不同规模模型部署及多样化AI应用需求:

  • RK1820单模组:20TOPS@INT8,搭载2.5GB独立显存;
  • RK1828单模组:20TOPS@INT8,搭载5GB独立显存;

双模组满配峰值算力可扩展至40TOPS@INT8,支持INT4/INT8/INT16/FP8/FP16等多精度运算。依托充足的算力和内存资源,可部署运行3B/7B级轻量大语言模型及视觉多模态模型,在离线环境下完成画面语义解读、监控视频检索、巡检文本摘要、离线智能问答等任务,摆脱云端依赖,规避数据外传风险。

打开网易新闻 查看精彩图片

02 多路编解码 多模态与视觉并发处理

02 多路编解码 多模态与视觉并发处理

得益于RK3588多媒体编解码能力,设备可高效处理多路视频数据,满足多摄像头视频采集与智能分析需求:

  • 32路1080P@30fps H.265、16路1080P@30fps H.264视频解码;
  • 16路1080P@30fps H.264/H.265视频编码;

此外,配置1路4K@60fpsHDMI显示输出,可外接大屏实时展示AI分析结果。单台设备即可完成多路监控视频解析、目标检测、智能问答等多种AI任务,有效降低部署成本。

03 工业级硬件架构 运行稳定可靠

03 工业级硬件架构 运行稳定可靠

1、宽温被动散热,适配复杂环境部署

整机采用被动无风扇散热方案,静音防尘;工作温度区间覆盖-40℃~70℃,高低温环境下CPU自带降频保护,在户外机柜、机房等复杂多变的环境中均可稳定运行。机身尺寸273×208×67.1mm,轻量化桌面式安装,DC12V低压供电,点位布线更简单。

2、丰富工业IO,实现AI联动闭环控制

标配多类工业接口,可直接对接现场安防、传感设备,搭建完整智能联动系统:

  • 双千兆以太网:可支持多路摄像头接入、内外网隔离部署;
  • RS232/RS485:可支持接入烟感、红外探测器、门禁、声光报警器,AI识别异常后本地联动报警;
  • CAN总线:可支持工业设备接入;
  • USB3.0×2、HDMI输出:可支持外设拓展、画面实时投屏;

3、灵活存储内存配置

标配64GB eMMC本地存储,可支持同时扩展 M.2 NVM固态SSD硬盘及2.5 英寸SATA机械硬盘,提供充足空间存储监控录像、大模型权重文件、业务日志等本地数据。

打开网易新闻 查看精彩图片

04 国产AI开发栈 快速落地行业算法

04 国产AI开发栈 快速落地行业算法

搭载rknn3-toolkit开发环境,提供丰富多样的模型参考案例,为客户大幅缩短项目开发周期:

  • 主流框架兼容:TensorFlow,Caffe,Pytorch,TfLite,ONNX模型;
  • 成熟案例:YOLO V5/V6/V8、Resnet50等视觉算法,以及多种大语言模型;

打开网易新闻 查看精彩图片

05 多行业落地场景

05 多行业落地场景

智慧工地:多路监控实时识别安全帽、动火、高空作业违规行为,本地大模型自动生成每日巡检报告,断网不中断分析;

智慧园区:全域监控离线检索、访客身份语义识别、园区异常事件本地留存,数据不上云保障园区隐私;

智慧加油站:抽烟、脱帽、静电等安全行为识别,交易、监控数据本地私有化处理,满足金融安防合规;

智慧交通:道路车流、违停、行人事件抓拍,多模态大模型统计路况信息,适配无公网郊区路段;

小型政企私有化AI:本地知识库、离线智能问答终端,内部资料不外泄;

06 产品核心优势总结

06 产品核心优势总结

数据安全合规:全流程本地推理,视频、文本、业务数据全程本地处理,无需上传云端,有效降低数据泄露风险;

长期降本增效:一次性硬件投入,无云端按次计费,大规模部署成本优势更显著;

算力灵活扩容:支持单/双AI模组自由选配,从小项目试点到规模化批量部署平滑升级;

全环境通用:无风扇宽温设计,适配室内、机柜、桌面等多种部署环境;

国产化自主可控:软硬件国产生态适配,构建自主可控的AI算力方案;