소스 검색

perf(model): adjust batch ratio for GPU memory range

- Update batch ratio calculation for GPU memory range
- Increase upper limit for batch ratio 16 from 24 to 32 GB
myhloli 9 달 전
부모
커밋
d1af456621
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      magic_pdf/model/doc_analyze_by_custom_model.py

+ 1 - 1
magic_pdf/model/doc_analyze_by_custom_model.py

@@ -184,7 +184,7 @@ def doc_analyze(
                 batch_ratio = 4
             elif 12 < gpu_memory <= 16:
                 batch_ratio = 8
-            elif 16 < gpu_memory <= 24:
+            elif 16 < gpu_memory <= 32:
                 batch_ratio = 16
             else:
                 batch_ratio = 32