硬件后端#

当运行环境依赖特定加速器栈或 SGLang 版本时,使用这些指南。

指南

内容

AMD ROCm

在 AMD ROCm 加速器上运行。

Ascend CANN

在 Ascend CANN 加速器上运行。

SGLang 版本切换

在不同 SGLang 版本之间切换。