Просмотр исходного кода

explicitly enable TOKENIZERS_PARALLELISM=true

Alex Cheema 6 месяцев назад
Родитель
Сommit
a8a9e3ffa1
1 измененных файлов с 1 добавлено и 0 удалено
  1. 1 0
      exo/main.py

+ 1 - 0
exo/main.py

@@ -42,6 +42,7 @@ import psutil
 # TODO: figure out why this is happening
 os.environ["GRPC_VERBOSITY"] = "error"
 os.environ["TRANSFORMERS_VERBOSITY"] = "error"
+os.environ["TOKENIZERS_PARALLELISM"] = "true"
 
 # Configure uvloop for maximum performance
 def configure_uvloop():