|
@@ -24,7 +24,8 @@ HOST="0.0.0.0"
|
|
|
|
|
|
|
|
# 本地 GGUF 模型路径(llama-server -hf 下载后的实际路径)
|
|
# 本地 GGUF 模型路径(llama-server -hf 下载后的实际路径)
|
|
|
HF_CACHE="$HOME/models/MinerU2.5-Pro-2604-1.2B-GGUF"
|
|
HF_CACHE="$HOME/models/MinerU2.5-Pro-2604-1.2B-GGUF"
|
|
|
-MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-F16.gguf"
|
|
|
|
|
|
|
+# MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-F16.gguf"
|
|
|
|
|
+MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-Q8_0.gguf"
|
|
|
MMPROJ_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-F16-mmproj.gguf"
|
|
MMPROJ_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-F16-mmproj.gguf"
|
|
|
|
|
|
|
|
# 模型别名(对外暴露的模型 ID,对应 yaml 中的 model 字段)
|
|
# 模型别名(对外暴露的模型 ID,对应 yaml 中的 model 字段)
|