ianshaw
|
25b00abca1
|
fix(网关): 修复账号选择中的调度器快照延迟问题
## 问题描述
调度器快照更新存在0.5-1秒的延迟（Outbox轮询间隔），导致在账号被限流或过载后的短时间窗口内，
可能仍会被选中，造成请求失败。
## 根本原因
账号选择逻辑依赖调度器快照（listSchedulableAccounts），但快照更新有延迟：
- Outbox轮询: 每1秒检查一次变更事件
- 全量重建: 每300秒重建一次
- 时间窗口: 账号状态变更后0.5-1秒内，快照可能未更新
## 解决方案
在账号选择循环中添加IsSchedulable()实时检查，作为第二道防线：
1. 第一道防线: 调度器快照过滤（可能有延迟）
2. 第二道防线: IsSchedulable()实时检查（本次修复）
IsSchedulable()会检查：
- RateLimitResetAt: 限流重置时间
- OverloadUntil: 过载持续时间
- TempUnschedulableUntil: 临时不可调度时间
- Status: 账号状态
- Schedulable: 可调度标志
## 修改范围
### OpenAI Gateway Service
- SelectAccountForModelWithExclusions: 添加IsSchedulable()检查
- SelectAccountWithLoadAwareness: 添加IsSchedulable()检查
### Gateway Service (Claude/Gemini/Antigravity)
- 负载感知选择候选账号筛选: 添加IsSchedulable()检查
- selectAccountForModelWithPlatform: 添加IsSchedulable()检查
- selectAccountWithMixedScheduling: 添加IsSchedulable()检查
### 测试用例
- OpenAI: 添加2个测试用例验证限流账号过滤
- Gateway: 添加2个测试用例验证限流和过载账号过滤
### 其他修复
- ops_repo_preagg.go: 修复platform为NULL时的聚合问题
## 测试结果
所有单元测试通过 ✅
|
2026-01-13 22:49:26 -08:00 |
|
IanShaw027
|
345a965fa3
|
feat(ops): 添加 count_tokens 错误过滤功能
功能特性：
- 自动识别并标记 count_tokens 请求的错误
- 支持配置是否在统计中忽略 count_tokens 错误
- 错误数据完整保留，仅在统计时动态过滤
技术实现：
- ops_error_logger.go: 自动标记 count_tokens 请求
- ops_repo.go: INSERT 语句添加 is_count_tokens 字段
- ops_repo_dashboard.go: buildErrorWhere 核心过滤函数
- ops_repo_preagg.go: 预聚合统计中添加过滤
- ops_repo_trends.go: 趋势统计查询添加过滤（2 处）
- ops_settings_models.go: 添加 ignore_count_tokens_errors 配置
- ops_settings.go: 配置验证和默认值设置
- ops_port.go: 错误日志模型添加 IsCountTokens 字段
业务价值：
- count_tokens 是探测性请求，其错误不影响真实业务 SLA
- 用户可根据需求灵活控制是否计入统计
- 提升错误率、告警等运维指标的准确性
影响范围：
- Dashboard 概览统计
- 错误趋势图表
- 告警规则评估
- 预聚合指标（hourly/daily）
- 健康分数计算
|
2026-01-12 17:06:12 +08:00 |
|
IanShaw027
|
73b62bb15c
|
feat(ops): 增强上游错误追踪和新增定时报告服务
- 优化错误日志中间件，即使请求成功也记录上游重试/故障转移事件
- 新增OpsScheduledReportService支持定时报告功能
- 使用Redis分布式锁确保定时任务单实例执行
- 完善依赖注入配置
- 优化前端错误趋势图表展示
|
2026-01-11 23:00:31 +08:00 |
|
IanShaw027
|
f5e45c1a8a
|
refactor(ops): 优化运维监控数据仓库层查询逻辑
|
2026-01-11 20:55:52 +08:00 |
|
IanShaw027
|
bb5303272b
|
feat(repository): 实现运维监控数据访问层
- 新增 ops 主仓库（ops_repo.go）
- 实现告警数据访问（ops_repo_alerts.go）
- 实现仪表板数据访问（ops_repo_dashboard.go）
- 实现直方图数据访问（ops_repo_histograms.go）
- 实现延迟直方图桶逻辑（ops_repo_latency_histogram_buckets.go）
- 新增延迟直方图桶测试（ops_repo_latency_histogram_buckets_test.go）
- 实现指标数据访问（ops_repo_metrics.go）
- 实现预聚合数据访问（ops_repo_preagg.go）
- 实现请求详情数据访问（ops_repo_request_details.go）
- 实现趋势数据访问（ops_repo_trends.go）
- 实现窗口统计数据访问（ops_repo_window_stats.go）
- 更新并发缓存支持 ops 场景
- 注册 repository 依赖注入
|
2026-01-09 20:52:57 +08:00 |
|