AIBOX 产品矩阵:支持主流大模型的私有化部署,满足个性化 AI 应用需求

美好的生活真美好 3小时前 阅读数 5261 #生活小游戏

AIBOX 系列产品具备高性能、低功耗、环境适应性强等特点,算力覆盖 6-157 TOPS,通过搭配多样化深度学习算法,体积小巧,能够支持主流大模型的私有化部署,为多个智慧行业进行数字化赋能。

e62d70a8-519e-11f0-986f-92fbcf53809c.png

目前 Firefly 共推出 9款 AIBOX 产品,通过不同的算力、能效、外观等,适配不同行业的应用场景。

Firefly × NVIDIA

搭载 NVIDIA 原装 Jetson Orin 系列核心模组,适配各种性能和价位的加速计算功能,算力最高可达 157 TOPS;同时支持 NVIDIA 软件生态。凭着强劲的算力性能、卓越的能效和轻松的开发体验,满足各种自主应用的需求。

Firefly × Rockchip

搭载瑞芯微旗舰级 AIoT 芯片,采用大小核构架,最高主频可达 2.4 GHz,为高性能计算和多任务处理提供了强大的硬件支持,同时该系列具备低功耗、长续航等工业特性,适配工业级应用场景的需求。

e65c6714-519e-11f0-986f-92fbcf53809c.png

Firefly × SOPHON

该系列搭载 SOPHON 系列的 AI 处理器,具有极高性价比。其中 AIBOX-1684X 算力可达 32 TOPS,支持主流编程框架、视频编解码,可应用于云端及边缘计算应用的人工智能推理。

全面的人工智能私有化部署

AIBOX 系列大部分可支持现代主流大模型私有化部署,如 Gemma 系列、Llama 系列、ChatGLM 系列、Qwen 系列等大型语言模型。

支持 CNN、RNN、LSTM 等传统网络架构

支持 Caffe、TensorFlow、PyTorch、MXNet 等多种深度学习框架,并且支持自定义算子开发

支持 Docker 容器化管理技术,方便进行镜像部署

支持视频编解码

AIBOX 系列基本支持视频编解码,最高可支持 8K@60fps 视频解码和 8K@30fps 视频编码,支持同编同解,高分辨率及多通道解码能力,让大模型快速获取视频中的信息,为模型训练和推理提供更丰富的数据,提高视觉分析精度,加速算法训练和优化。

全金属外壳,高效散热

配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,保证外部空气流通,高效散热,保障在高温运行状态下的运算性能和稳定性,满足工业级的应用需求。

提供完善的开发资料

我们提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便。

e6ae8f12-519e-11f0-986f-92fbcf53809c.jpg

广泛的应用场景

广泛适用于智能监控、AI 教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景。

  • 随机文章
  • 热门文章
  • 热评文章
热门