|
@@ -2,10 +2,10 @@
|
|
|
# filepath: ocr_platform/ocr_tools/daemons/mineru_local_daemon.sh
|
|
# filepath: ocr_platform/ocr_tools/daemons/mineru_local_daemon.sh
|
|
|
# 对应: MinerU2.5-Pro 本地 llama-server 服务(macOS),使用 GGUF 格式模型
|
|
# 对应: MinerU2.5-Pro 本地 llama-server 服务(macOS),使用 GGUF 格式模型
|
|
|
# 适用于 Mac M4 Pro 48G,使用 Metal GPU 加速
|
|
# 适用于 Mac M4 Pro 48G,使用 Metal GPU 加速
|
|
|
-# 模型下载地址: https://huggingface.co/mradermacher/MinerU2.5-Pro-2604-1.2B-GGUF
|
|
|
|
|
|
|
+# 模型下载地址: https://huggingface.co/mradermacher/MinerU2.5-Pro-2605-1.2B-GGUF
|
|
|
#
|
|
#
|
|
|
# 首次下载方式(自动下载 Q8_0 量化版本):
|
|
# 首次下载方式(自动下载 Q8_0 量化版本):
|
|
|
-# llama-server -hf mradermacher/MinerU2.5-Pro-2604-1.2B-GGUF:Q8_0
|
|
|
|
|
|
|
+# llama-server -hf mradermacher/MinerU2.5-Pro-2605-1.2B-GGUF:Q8_0
|
|
|
# 模型会缓存到 ~/Library/Caches/llama.cpp/,也可手动移至 ~/models/mineru_vl/
|
|
# 模型会缓存到 ~/Library/Caches/llama.cpp/,也可手动移至 ~/models/mineru_vl/
|
|
|
|
|
|
|
|
# curl -X POST http://localhost:8103/v1/chat/completions -d @payload.json
|
|
# curl -X POST http://localhost:8103/v1/chat/completions -d @payload.json
|
|
@@ -23,13 +23,13 @@ PORT="8103"
|
|
|
HOST="0.0.0.0"
|
|
HOST="0.0.0.0"
|
|
|
|
|
|
|
|
# 本地 GGUF 模型路径(llama-server -hf 下载后的实际路径)
|
|
# 本地 GGUF 模型路径(llama-server -hf 下载后的实际路径)
|
|
|
-HF_CACHE="$HOME/models/MinerU2.5-Pro-2604-1.2B-GGUF"
|
|
|
|
|
-# MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-F16.gguf"
|
|
|
|
|
-MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-Q8_0.gguf"
|
|
|
|
|
-MMPROJ_PATH="$HF_CACHE/MinerU2.5-Pro-2604-1.2B-F16-mmproj.gguf"
|
|
|
|
|
|
|
+HF_CACHE="$HOME/models/MinerU2.5-Pro-2605-1.2B-GGUF"
|
|
|
|
|
+# MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2605-1.2B-F16.gguf"
|
|
|
|
|
+MODEL_PATH="$HF_CACHE/MinerU2.5-Pro-2605-1.2B-Q8_0.gguf"
|
|
|
|
|
+MMPROJ_PATH="$HF_CACHE/MinerU2.5-Pro-2605-1.2B-F16-mmproj.gguf"
|
|
|
|
|
|
|
|
# 模型别名(对外暴露的模型 ID,对应 yaml 中的 model 字段)
|
|
# 模型别名(对外暴露的模型 ID,对应 yaml 中的 model 字段)
|
|
|
-MODEL_NAME="MinerU2.5-Pro-2604-1.2B"
|
|
|
|
|
|
|
+MODEL_NAME="MinerU2.5-Pro-2605-1.2B"
|
|
|
|
|
|
|
|
# llama-server 执行文件
|
|
# llama-server 执行文件
|
|
|
LLAMA_SERVER_EXECUTABLE="/Users/zhch158/workspace/repository.git/llama.cpp/build/bin/llama-server"
|
|
LLAMA_SERVER_EXECUTABLE="/Users/zhch158/workspace/repository.git/llama.cpp/build/bin/llama-server"
|