自 AIBOX-1684X 上市后,这个小巧的盒子凭借本地化 AI 的能力,获得市场一致好评。现 Firefly 推出新一款入门级 AI 盒子:AIBOX-1688
该盒子搭载 SOPHON 算能八核 AI 处理器 BM1688,算力高达 16 TOPS,支持主流大模型的私有化部署,把 AI 的能力私有化,满足个性化的 AI 部署。
人工智能私有化部署
语言大模型
支持 Transformer 架构下超大规模参数模型,如 Gemma-2B、Qwen1.5-1.8B、Llama2-7B、ChatGLM3-6B 等大模型的私有化部署。
传统网络架构
支持 CNN、RNN、LSTM 等传统网络架构。
深度学习框架
支持多种深度学习框架,包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX 和 Darknet,并支持自定义算子开发。
Docker 容器化
支持 Docker 容器化管理技术,可方便进行镜像部署。
16TOPS算力AI处理器BM1688
采用 SOPHON 算能 AI 处理器 BM1688,拥有八核 ARM Cortex-A53,最高主频 1.6GHz,内建神经网络加速引擎 TPU,拥有 32T@INT4 峰值算力、16T@INT8 峰值算力、4T@FP16 / BF16 算力、0.5T@FP32 算力,支持主流编程框架,可广泛应用于 AI 推理、计算机视觉等领域。
多路视频AI处理性能
最高支持 16 路 H.265 / H.264 1080P 视频解码,10 路 H.265 / H.264 1080P 视频编码,支持 16 路 1080P 高清视频全流程处理(解码+ AI 分析),满足视频流人脸检测、车牌识别、智慧城市等各类 AI 应用场景的需求。
强大的网络通讯能力
支持双路 1000Mbps 以太网 ,高速稳定的网络通讯方式,满足不同应用场景的需求。
全金属外壳,高效散热
配置工业级全金属外壳,铝合金结构导热,顶盖外壳侧面采用条幅格栅设计,保证外部空气流通,高效散热,保障在高温运行状态下的运算性能和稳定性。
匠心工艺,美观精致
顶盖采用多孔六边形设计,简洁美观。整机小巧精致,运行稳定,满足工业级应用的需求。
完善的开发资料
提供配套的源代码、教程、技术资料和开发工具,让开发变得更加简单方便。
广泛的应用场景
AIBOX-1688 可广泛适用于智能监控、AI 教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景。
-
处理器
+关注
关注
68文章
19242浏览量
229593 -
AI
+关注
关注
87文章
30643浏览量
268824 -
大模型
+关注
关注
2文章
2407浏览量
2622
发布评论请先 登录
相关推荐
评论