opsx
5e59347c40
=== 0. 【严重】修复上一版引入的死锁（平台写路径全卡死）===
上一版把保留期读取写成 `GetRetentionSettings()`（内部 db.RLock()），
却在 `db.Lock()` 已持有的情况下调用（recordDelivery / RecordAudit 的裁剪路径）。
Go 的 sync.RWMutex **不可重入** → 第一次写投递历史/审计日志就永久死锁。
现象：登录 28 秒返回空（登录也要写审计）、所有写接口挂住。
go build / go vet / 之前的单测（不触发写路径）全都查不出来。
修法：
- 拆出 retentionFromDBLocked(db) / alertDeliveryRetentionLocked(db) /
auditLogRetentionLocked(db)，调用方已持锁时用无锁版本
- upsertSettingLocked 里**不能**用 db.NextID()（内部 d.mu.Lock()，同样死锁），
改为锁内自算 max(id)+1
- 新增 retention_test.go：持写锁调用裁剪函数，2 秒超时未返回即判死锁
实测修复后：登录 103ms（原 28000ms）、panic/deadlock 命中 0。
=== 1. 平台数据保留期可配（系统设置 → 通用配置 → 日志保留时间）===
新增 GET/PUT /api/v1/settings/retention：
alertDeliveryDays 告警发送历史保留天数，默认 7（原写死"最近 50 条"）
auditLogDays 审计日志保留天数，默认 90（原写死常量）
保存后立即按新策略裁剪一次，不必等下次触发。
校验：发送历史 1~365 天、审计 1~3650 天，超出返回明确中文原因（不是 500）。
注意与「Loki 日志保留期」区分：那个是部署级配置（组件部署 → 保留策略）。
=== 2. 发送历史：50 条硬上限 → 保留 7 天 ===
后端 Deliveries 接口原来写死 `len(out) < 50`，现在按保留期取（响应上限 500 可调），
标题改为「发送历史（保留 N 天）」，N 从设置里读。
=== 3. 菜单「日志服务」→「组件部署」===
=== 4. 分析页：去掉「全部命名空间」+ 改手动刷新 ===
- 移除「全部命名空间」选项：{namespace=~".+"} 要扫全集群（约 370GB/天），
一次分析几十秒，得不偿失；历史值 __all__ 也会被忽略并回退到策略/第一个 ns
- 筛选改为「选择值 / 已生效值」分离：切换命名空间或时间范围**不再自动查询**，
只把刷新按钮点亮并提示「筛选条件已改，点刷新生效」；
点一次才应用并取数。
原因：一次分析要跑多条 count_over_time，切一下下拉就重查一轮，
快速连点会把 Loki 打满（并发护栏 429），还拖慢别人。
=== 实测（9739c7c092e7）===
登录 103ms / token 273 字符
GET retention → {alertDeliveryDays:7, auditLogDays:90}
PUT 0 天 → 400「告警发送历史保留天数需在 1~365 之间」
平台日志 panic/deadlock 命中 0
go test ./... 全绿（含 2 个新死锁回归用例）
72 lines
2.5 KiB
Go
72 lines
2.5 KiB
Go
package services
|
|
|
|
import (
|
|
"strings"
|
|
"testing"
|
|
|
|
"lokistack/models"
|
|
)
|
|
|
|
// 删除并发必须按对象存储类型区分：各云 DELETE 限流差别很大，
|
|
// 统一一个值要么被限流（COS 503 SlowDown），要么白等（S3 能扛更多）。
|
|
func TestCompactorDeleteWorkersPerStorageType(t *testing.T) {
|
|
cases := map[string]int{
|
|
"cos": 16, // 实测 150 触发 503 SlowDown
|
|
"obs": 32, // 华为 OBS 保守值
|
|
"minio": 32, // 自建，取决于磁盘
|
|
"azure": 32, // 存储账户限流较严
|
|
"oss": 64, // 阿里云 OSS QPS 较高
|
|
"gcs": 64,
|
|
"s3": 96, // AWS S3 限流宽松
|
|
"": defaultCompactorDeleteWorkers,
|
|
"unknown": defaultCompactorDeleteWorkers,
|
|
}
|
|
for storageType, want := range cases {
|
|
got := compactorDeleteWorkers(&models.StorageConfig{StorageType: storageType})
|
|
if got != want {
|
|
t.Errorf("storageType=%q: got %d, want %d", storageType, got, want)
|
|
}
|
|
}
|
|
|
|
// nil 存储配置不能 panic
|
|
if got := compactorDeleteWorkers(nil); got != defaultCompactorDeleteWorkers {
|
|
t.Errorf("nil: got %d, want %d", got, defaultCompactorDeleteWorkers)
|
|
}
|
|
}
|
|
|
|
// 运维应能用环境变量覆盖，不必改代码发版
|
|
func TestCompactorDeleteWorkersEnvOverride(t *testing.T) {
|
|
t.Setenv("LOKI_COMPACTOR_DELETE_WORKERS", "48")
|
|
if got := compactorDeleteWorkers(&models.StorageConfig{StorageType: "cos"}); got != 48 {
|
|
t.Errorf("env override: got %d, want 48", got)
|
|
}
|
|
// 非法值回落到 provider 默认，不能让 Loki 起不来
|
|
t.Setenv("LOKI_COMPACTOR_DELETE_WORKERS", "abc")
|
|
if got := compactorDeleteWorkers(&models.StorageConfig{StorageType: "cos"}); got != 16 {
|
|
t.Errorf("invalid env: got %d, want 16", got)
|
|
}
|
|
}
|
|
|
|
// 生成的配置里必须出现对应 provider 的并发值（防止模板变量漏渲染）
|
|
func TestGeneratedConfigCarriesProviderDeleteWorkers(t *testing.T) {
|
|
for storageType, want := range map[string]string{
|
|
"cos": "retention_delete_worker_count: 16",
|
|
"s3": "retention_delete_worker_count: 96",
|
|
} {
|
|
d := NewLokiDeployer(&models.LokiDeployment{
|
|
RetentionDays: 7, Replicas: 1,
|
|
StorageConfig: &models.StorageConfig{
|
|
StorageType: storageType, Bucket: "b", Region: "r",
|
|
Endpoint: "e", AccessKey: "ak", SecretKey: "sk",
|
|
},
|
|
}, func(level, message, detail string) {})
|
|
cfg := d.generateLokiConfig()
|
|
if !strings.Contains(cfg, want) {
|
|
t.Errorf("storageType=%s: generated config missing %q", storageType, want)
|
|
}
|
|
if !strings.Contains(cfg, "retention_delete_delay: 10m") {
|
|
t.Errorf("storageType=%s: missing retention_delete_delay", storageType)
|
|
}
|
|
}
|
|
}
|