소스 검색

fix: update sys.argv to include 'serve' for vllm server startup

myhloli 2 달 전
부모
커밋
96a0a45c9a
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      mineru/model/vlm_vllm_model/server.py

+ 1 - 1
mineru/model/vlm_vllm_model/server.py

@@ -28,7 +28,7 @@ def main():
         args.extend([default_path])
 
     # 重新构造sys.argv,以便透传所有参数给vllm
-    sys.argv = [sys.argv[0]] + args
+    sys.argv = [sys.argv[0]] + ["serve"] + args
 
     # 启动vllm服务器
     print(f"start vllm server: {sys.argv}")