John Chen
6a2da31946
fix: 修复智普、Moonshot渠道在stream=true时无法拿到cachePrompt的统计数据。
根本原因:
1. 在OaiStreamHandler流式处理函数中,调用applyUsagePostProcessing(info, usage, nil)时传入的responseBody为nil,导致无法从响应体中提取缓存tokens。
2. 两个渠道的cached_tokens位置不同:
- 智普:标准位置 usage.prompt_tokens_details.cached_tokens
- Moonshot:非标准位置 choices[].usage.cached_tokens
处理方案:
1. 传递body信息到applyUsagePostProcessing中
2. 拆分智普和Moonshot的解析,并为Moonshot单独写一个解析方法。
2025-12-30 17:38:32 +08:00
..
2024-12-02 15:59:08 +00:00
2025-12-29 23:00:17 +08:00
2025-12-16 17:00:19 +08:00
2025-12-16 17:00:19 +08:00
2025-11-25 16:45:14 +08:00
2025-12-24 11:54:23 +08:00
2025-12-02 21:34:39 +08:00
2025-12-02 21:34:39 +08:00
2025-12-16 17:00:19 +08:00
2025-10-11 15:30:09 +08:00
2025-12-02 21:34:39 +08:00
2025-12-27 02:52:33 +08:00
2025-10-11 15:30:09 +08:00
2025-10-11 15:30:09 +08:00
2024-05-17 19:37:18 +08:00
2025-12-02 21:34:39 +08:00
2025-10-11 15:30:09 +08:00
2025-10-11 15:30:09 +08:00
2025-11-30 16:21:12 +08:00
2025-12-28 15:55:35 +08:00
2025-12-30 17:38:32 +08:00
2025-09-28 15:23:27 +08:00
2025-12-02 21:34:39 +08:00
2025-10-11 15:30:09 +08:00
2025-11-08 01:24:45 +08:00
2025-10-29 23:33:55 +08:00
2025-10-11 15:30:09 +08:00
2025-12-29 14:13:33 +08:00
2025-12-02 21:34:39 +08:00
2025-12-21 17:22:04 +08:00
2025-12-02 21:34:39 +08:00
2025-12-02 21:34:39 +08:00
2025-06-25 18:04:34 +08:00
2025-10-11 15:30:09 +08:00
2025-10-11 15:30:09 +08:00
2025-12-13 16:43:57 +08:00
2025-12-09 11:15:27 +08:00
2025-11-30 18:45:54 +08:00