建议

使用 QFX5130-32CD、QFX5140-24CD8O 或 QFX5240-64OD 交换机作为前端叶节点。

使用 QFX5220-32CD、QFX5230-64CD 或 QFX5240-64OD 交换机作为前端主干节点。

使用 HPE Juniper Apstra Data Center Director 自动部署并监控前端交换矩阵。

按照最低推荐软件版本实施解决方案：

• 所有 QFX 设备：Junos OS 演化版 25.2X100-D20.4-EVO
• HPE Juniper Apstra Data Center Director：6.1

要复制本文档中描述的基准测试，请使用：

SGLang 0.4.5

SGLang 路由器 0.1.4

Envoy 代理服务 1.35.3

NVIDIA GenAI-Perf 0.0.11

骆驼 3.1 8B、骆驼 3.3 70B 和 Qwen 2.5 72B