产品介绍
大模型主机 L 是城市级数据中心算力底座，承载 200B 级旗舰大模型与千路以上视频并发。多节点集群高可用部署，汇聚多域视频做跨部门协同研判，支撑全局态势感知与治理决策。
模型规模 2~200B
旗舰大模型
复审 ≥1000路+
实时 ≥512 路+
8×旗舰级GPU
大规模视频AI并发分析
单请求 ≤3秒
多节点集群
核心优势
旗舰算力
8 卡旗舰级 GPU，200B 级大模型本地部署，支撑最复杂推理任务。
千路级并发
千路以上视频并发复审与实时检测，作为城市级感知中枢稳定运行。
集群可扩展
多节点集群部署，算力随业务平滑扩展，高可用冗余电源保障。
全局智能中枢
汇聚多域视频做跨部门协同研判，支撑城市级治理与决策进化。
产品参数
| 产品型号 | 大模型主机 L |
|---|---|
| 产品定位 | 大规模并发 / 数据中心级部署 |
| CPU | 高性能多核处理器 ×2 |
| GPU 算力配置 | 8× 旗舰级 GPU |
| 模型规模 | 2B~200B |
| 大模型并发能力（复审 / 实时） | 复审 ≥1000 路+ / 实时 ≥512 路+ |
| 单请求响应 | ≤3 秒 |
| 网络接口 | 四 10GE 光口 + 千兆管理口 |
| 服务支持 | 7×24 技术支持 |
| 预装软件环境 | Ubuntu + 主流深度学习框架 |
| 部署形态 | 标准 4U 机架式 |
产品定位
- 大规模并发 / 数据中心级部署
CPU
- 高性能多核处理器 ×2
GPU 算力配置
- 8× 旗舰级 GPU
模型规模
- 2B~200B
大模型并发能力（复审 / 实时）
- 复审 ≥1000 路+ / 实时 ≥512 路+
单请求响应
- ≤3 秒
网络接口
- 四 10GE 光口 + 千兆管理口
服务支持
- 7×24 技术支持
预装软件环境
- Ubuntu + 主流深度学习框架
部署形态
- 标准 4U 机架式
注：表中并发路数为建议基准，实际性能视算法复杂度、视频分辨率与点位规模评估；大模型实时检测按每算法 >5 秒一帧设计。
