Timothy Jaeryang Baek hai 6 meses
pai
achega
d8c76e9a0c
Modificáronse 1 ficheiros con 1 adicións e 1 borrados
  1. 1 1
      backend/open_webui/main.py

+ 1 - 1
backend/open_webui/main.py

@@ -1411,7 +1411,7 @@ async def chat_completion(
         )
 
         # Model Params
-        if not stream_delta_chunk_size and model_info_params:
+        if model_info_params.get("stream_delta_chunk_size"):
             stream_delta_chunk_size = model_info_params.get("stream_delta_chunk_size")
 
         metadata = {