Przeglądaj źródła

Merge remote-tracking branch 'origin/vlm_2.5' into vlm_2.5

myhloli 2 miesięcy temu
rodzic
commit
376b5d924a
1 zmienionych plików z 1 dodań i 1 usunięć
  1. 1 1
      mineru/model/vlm_vllm_model/server.py

+ 1 - 1
mineru/model/vlm_vllm_model/server.py

@@ -28,7 +28,7 @@ def main():
         args.extend([default_path])
 
     # 重新构造sys.argv,以便透传所有参数给vllm
-    sys.argv = [sys.argv[0]] + args
+    sys.argv = [sys.argv[0]] + ["serve"] + args
 
     # 启动vllm服务器
     print(f"start vllm server: {sys.argv}")