jack 1 week geleden
bovenliggende
commit
383184552d
1 gewijzigde bestanden met toevoegingen van 1 en 0 verwijderingen
  1. 1 0
      app/core/runner/llm_backend.py

+ 1 - 0
app/core/runner/llm_backend.py

@@ -68,6 +68,7 @@ class LLMBackend:
         for message in chat_params["messages"]:
             if "content" not in message:
                 message["content"] = ""
+        chat_params["timeout"] = 120
         logging.info("chat_params: %s", chat_params)
         response = self.client.chat.completions.create(**chat_params)
         logging.info("chat_response: %s", response)