Jelajahi Sumber

fix: update sys.argv to include 'serve' for vllm server startup

myhloli 2 bulan lalu
induk
melakukan
96a0a45c9a
1 mengubah file dengan 1 tambahan dan 1 penghapusan
  1. 1 1
      mineru/model/vlm_vllm_model/server.py

+ 1 - 1
mineru/model/vlm_vllm_model/server.py

@@ -28,7 +28,7 @@ def main():
         args.extend([default_path])
 
     # 重新构造sys.argv,以便透传所有参数给vllm
-    sys.argv = [sys.argv[0]] + args
+    sys.argv = [sys.argv[0]] + ["serve"] + args
 
     # 启动vllm服务器
     print(f"start vllm server: {sys.argv}")