产品介绍
大模型主机 L 是城市级数据中心算力底座,承载 200B 级旗舰大模型与千路以上视频并发。多节点集群高可用部署,汇聚多域视频做跨部门协同研判,支撑全局态势感知与治理决策。
核心优势
旗舰算力
8 卡旗舰级 GPU,200B 级大模型本地部署,支撑最复杂推理任务。
千路级并发
千路以上视频并发复审与实时检测,作为城市级感知中枢稳定运行。
集群可扩展
多节点集群部署,算力随业务平滑扩展,高可用冗余电源保障。
全局智能中枢
汇聚多域视频做跨部门协同研判,支撑城市级治理与决策进化。
硬件参数规格
| 产品型号 | 大模型主机 L |
|---|---|
| 产品定位 | 大规模并发 / 数据中心级部署 |
| CPU | 高性能多核处理器 ×2 |
| GPU 算力配置 | 8× 旗舰级 GPU |
| 模型规模 | 2B~200B |
| 大模型并发能力(复审 / 实时) | 复审 ≥1000 路+ / 实时 ≥512 路+ |
| 单请求响应 | ≤3 秒 |
| 网络接口 | 四 10GE 光口 + 千兆管理口 |
| 服务支持 | 原厂 3 年质保 · 7×24 技术支持 |
| 预装软件环境 | Ubuntu + 主流深度学习框架 |
| 部署形态 | 标准 4U 机架式 |
产品定位
- 大模型主机 L
- 大规模并发 / 数据中心级部署
CPU
- 大模型主机 L
- 高性能多核处理器 ×2
GPU 算力配置
- 大模型主机 L
- 8× 旗舰级 GPU
模型规模
- 大模型主机 L
- 2B~200B
大模型并发能力(复审 / 实时)
- 大模型主机 L
- 复审 ≥1000 路+ / 实时 ≥512 路+
单请求响应
- 大模型主机 L
- ≤3 秒
网络接口
- 大模型主机 L
- 四 10GE 光口 + 千兆管理口
服务支持
- 大模型主机 L
- 原厂 3 年质保 · 7×24 技术支持
预装软件环境
- 大模型主机 L
- Ubuntu + 主流深度学习框架
部署形态
- 大模型主机 L
- 标准 4U 机架式
注:表中并发路数为建议基准,实际性能视算法复杂度、视频分辨率与点位规模评估;大模型实时检测按每算法 >5 秒一帧设计。