소스 검색

Merge pull request #125 from khoags/master

Update vllm version for Colab notebook
Qing Yan 2 달 전
부모
커밋
2562ed0df4
1개의 변경된 파일2개의 추가작업 그리고 2개의 파일을 삭제
  1. 2 2
      demo/demo_colab_remote_server.ipynb

+ 2 - 2
demo/demo_colab_remote_server.ipynb

@@ -602,7 +602,7 @@
         "os.environ[\"PYTHONPATH\"] = f\"{os.path.dirname(hf_model_path)}:{os.environ.get('PYTHONPATH', '')}\"\n",
         "\n",
         "# Install required packages\n",
-        "!pip install vllm transformers\n",
+        "!pip install vllm==0.10.0 transformers\n",
         "\n",
         "# Modify vllm import (this is a workaround - may need adjustment based on vllm version)\n",
         "try:\n",
@@ -1163,4 +1163,4 @@
       "outputs": []
     }
   ]
-}
+}