zhch158_admin
|
8b856eeef1
fix: 更新vLLM守护进程脚本中的数据并行配置,调整为支持2个GPU
|
il y a 1 mois |
zhch158_admin
|
a5b64277fb
fix: 修复vLLM守护进程脚本中的数据并行配置,调整为支持3个GPU
|
il y a 1 mois |
zhch158_admin
|
2273d7a138
feat: 重构vLLM守护进程脚本,增强模型注册和服务管理功能,添加状态检查和配置命令
|
il y a 1 mois |
zhch158_admin
|
5f85961325
fix: 调整 vllm 启动参数以降低 GPU 内存利用率并更新模型限制
|
il y a 2 mois |
zhch158_admin
|
8dcf0a88aa
fix: 调整 vllm 启动参数,修复 DotsOCR 模型注册逻辑
|
il y a 2 mois |
zhch158_admin
|
59e9391842
fix: 修正 conda 环境激活命令为 dots.ocr
|
il y a 2 mois |
zhch158_admin
|
b5116ab0a9
refactor: 修改 vllm_daemon.sh 文件权限
|
il y a 3 mois |
zhch158_admin
|
90482af22b
feat(zhch): 增加数据并行大小至 3,以提升 vLLM 服务器性能
|
il y a 3 mois |
zhch158_admin
|
5003891609
feat(zhch): 添加 vLLM 守护进程脚本,支持启动、停止和状态检查功能
|
il y a 3 mois |