 zhch158_admin
|
90482af22b
feat(zhch): 增加数据并行大小至 3，以提升 vLLM 服务器性能
|
3 月之前 |
|
zhch158_admin
|
546ed7a282
refactor(zhch): 调整 VLLM 模型启动脚本参数
|
3 月之前 |
|
zhch158_admin
|
04742e016b
优化 vLLM 启动脚本，调整 GPU 内存利用率，新增数据并行和前缀缓存配置
|
3 月之前 |
|
zhch158_admin
|
3c55054976
新增启动 vLLM 服务器的 Bash 脚本，配置模型路径和运行参数
|
3 月之前 |
