jack 1 ماه پیش
والد
کامیت
858e14732d
1فایلهای تغییر یافته به همراه3 افزوده شده و 0 حذف شده
  1. 3 0
      app/core/runner/llm_callback_handler.py

+ 3 - 0
app/core/runner/llm_callback_handler.py

@@ -95,6 +95,9 @@ class LLMCallbackHandler:
                     self.event_handler.pub_message_delta(
                         self.message.id, index, delta.content, delta.role
                     )
+                if chunk.usage:
+                    self.event_handler.pub_message_usage(chunk)
+                    continue
         except Exception as e:
             logging.error("handle_llm_response error: %s", e)
             raise e