Преглед на файлове

fix: disable tokenizers parallelism in lmdeploy server configuration

myhloli преди 3 седмици
родител
ревизия
7516d3ddf4
променени са 1 файла, в които са добавени 2 реда и са изтрити 0 реда
  1. 2 0
      mineru/model/vlm/lmdeploy_server.py

+ 2 - 0
mineru/model/vlm/lmdeploy_server.py

@@ -64,6 +64,8 @@ def main():
     if os.getenv('OMP_NUM_THREADS') is None:
         os.environ["OMP_NUM_THREADS"] = "1"
 
+    os.environ["TOKENIZERS_PARALLELISM"] = "false"
+
     # 启动 lmdeploy 服务器
     print(f"start lmdeploy server: {sys.argv}")