智能调度详解

1. Session 复用检查
   └─ 是否有已绑定的供应商？
      ├─ 是 → 验证供应商可用性 → 复用
      └─ 否 → 进入供应商选择流程

2. 供应商选择流程
   ├─ Step 1: 基础过滤（启用状态、格式兼容、模型支持）
   ├─ Step 2: 分组过滤（用户 groupTag 匹配）
   ├─ Step 3: 健康度过滤（熔断器状态、限流检查）
   ├─ Step 4: 优先级分层（只选最高优先级）
   └─ Step 5: 加权随机选择

3. 并发检查与绑定
   └─ 原子性检查并发限制 → 成功则绑定

示例：
供应商 A: priority = 0  ← 被选入
供应商 B: priority = 0  ← 被选入
供应商 C: priority = 1  ← 被过滤
供应商 D: priority = 2  ← 被过滤

供应商 X 的选中概率 = weight_X / sum(所有候选供应商的 weight)

请求 1 (messages.length = 1)
└─ 首次请求，无绑定 → 执行供应商选择
└─ 请求成功 → 绑定 session:provider

请求 2 (messages.length = 3)
└─ 检查 shouldReuseProvider() = true (length > 1)
└─ 读取 session:provider → 复用已绑定供应商

SESSION_TTL=300  # 单位：秒

供应商 A (主力):
  weight: 80
  priority: 0

供应商 B (备用):
  weight: 15
  priority: 0

供应商 C (备用):
  weight: 5
  priority: 0

优先级 0 的供应商全部不可用
    ↓
切换到优先级 1 的供应商
    ↓
优先级 1 也不可用
    ↓
切换到优先级 2 的供应商
    ↓
...以此类推

# 第一梯队（主力）
供应商 A:
  priority: 0
  weight: 60

供应商 B:
  priority: 0
  weight: 40

# 第二梯队（备用）
供应商 C:
  priority: 1
  weight: 70

供应商 D:
  priority: 1
  weight: 30

供应商 A:
  groupTag: "team-a,cli"

供应商 B:
  groupTag: "team-b,chat"

供应商 C:
  groupTag: "shared"

用户 Alice:
  providerGroup: "team-a"  # 只能使用 groupTag 包含 "team-a" 的供应商

用户 Bob:
  providerGroup: "cli,shared"  # 可以使用 "cli" 或 "shared" 标签的供应商

用户 Guest:
  providerGroup: null  # 全局用户，可以使用任意供应商

决策链:
1. 供应商 A (session_reuse)
   - 原因: 复用已绑定的 session
   - 熔断状态: closed

2. 供应商 B (retry_success)
   - 原因: 供应商 A 请求失败，切换到备用
   - 选择方法: weighted_random
   - 熔断状态: closed

# 主力供应商 - 官方 API
供应商 A:
  name: "Anthropic Official"
  priority: 0
  weight: 100
  costMultiplier: 1.0
  circuitBreakerFailureThreshold: 5
  circuitBreakerOpenDuration: 1800000  # 30 分钟

# 备用供应商 1 - 中转服务
供应商 B:
  name: "Relay Service 1"
  priority: 1
  weight: 60
  costMultiplier: 1.2

# 备用供应商 2 - 另一中转服务
供应商 C:
  name: "Relay Service 2"
  priority: 1
  weight: 40
  costMultiplier: 1.3

# 最后防线 - 高成本但稳定
供应商 D:
  name: "Emergency Fallback"
  priority: 2
  weight: 100
  costMultiplier: 2.0

# 折扣渠道 - 高权重
供应商 A:
  name: "Discount Channel"
  priority: 0
  weight: 80
  costMultiplier: 0.85

# 官方 API - 低权重备用
供应商 B:
  name: "Official API"
  priority: 0
  weight: 20
  costMultiplier: 1.0

# 团队 A 专属
供应商 A1:
  name: "Team A - Primary"
  groupTag: "team-a"
  priority: 0
  weight: 100

供应商 A2:
  name: "Team A - Backup"
  groupTag: "team-a"
  priority: 1
  weight: 100

# 团队 B 专属
供应商 B1:
  name: "Team B - Primary"
  groupTag: "team-b"
  priority: 0
  weight: 100

# 共享供应商（所有用户可用）
供应商 Shared:
  name: "Shared Pool"
  groupTag: "shared"
  priority: 2
  weight: 100

用户 Alice:
  providerGroup: "team-a,shared"

用户 Bob:
  providerGroup: "team-b,shared"