=== 0. 【严重】修复上一版引入的死锁(平台写路径全卡死)===
上一版把保留期读取写成 `GetRetentionSettings()`(内部 db.RLock()),
却在 `db.Lock()` 已持有的情况下调用(recordDelivery / RecordAudit 的裁剪路径)。
Go 的 sync.RWMutex **不可重入** → 第一次写投递历史/审计日志就永久死锁。
现象:登录 28 秒返回空(登录也要写审计)、所有写接口挂住。
go build / go vet / 之前的单测(不触发写路径)全都查不出来。
修法:
- 拆出 retentionFromDBLocked(db) / alertDeliveryRetentionLocked(db) /
auditLogRetentionLocked(db),调用方已持锁时用无锁版本
- upsertSettingLocked 里**不能**用 db.NextID()(内部 d.mu.Lock(),同样死锁),
改为锁内自算 max(id)+1
- 新增 retention_test.go:持写锁调用裁剪函数,2 秒超时未返回即判死锁
实测修复后:登录 103ms(原 28000ms)、panic/deadlock 命中 0。
=== 1. 平台数据保留期可配(系统设置 → 通用配置 → 日志保留时间)===
新增 GET/PUT /api/v1/settings/retention:
alertDeliveryDays 告警发送历史保留天数,默认 7(原写死"最近 50 条")
auditLogDays 审计日志保留天数,默认 90(原写死常量)
保存后立即按新策略裁剪一次,不必等下次触发。
校验:发送历史 1~365 天、审计 1~3650 天,超出返回明确中文原因(不是 500)。
注意与「Loki 日志保留期」区分:那个是部署级配置(组件部署 → 保留策略)。
=== 2. 发送历史:50 条硬上限 → 保留 7 天 ===
后端 Deliveries 接口原来写死 `len(out) < 50`,现在按保留期取(响应上限 500 可调),
标题改为「发送历史(保留 N 天)」,N 从设置里读。
=== 3. 菜单「日志服务」→「组件部署」===
=== 4. 分析页:去掉「全部命名空间」+ 改手动刷新 ===
- 移除「全部命名空间」选项:{namespace=~".+"} 要扫全集群(约 370GB/天),
一次分析几十秒,得不偿失;历史值 __all__ 也会被忽略并回退到策略/第一个 ns
- 筛选改为「选择值 / 已生效值」分离:切换命名空间或时间范围**不再自动查询**,
只把刷新按钮点亮并提示「筛选条件已改,点刷新生效」;
点一次才应用并取数。
原因:一次分析要跑多条 count_over_time,切一下下拉就重查一轮,
快速连点会把 Loki 打满(并发护栏 429),还拖慢别人。
=== 实测(9739c7c092e7)===
登录 103ms / token 273 字符
GET retention → {alertDeliveryDays:7, auditLogDays:90}
PUT 0 天 → 400「告警发送历史保留天数需在 1~365 之间」
平台日志 panic/deadlock 命中 0
go test ./... 全绿(含 2 个新死锁回归用例)
133 lines
4.2 KiB
Go
133 lines
4.2 KiB
Go
package services
|
|
|
|
import (
|
|
"errors"
|
|
"strconv"
|
|
"time"
|
|
|
|
"lokistack/models"
|
|
"lokistack/repository"
|
|
)
|
|
|
|
// 平台自身数据的保留期设置(不是 Loki 日志的保留期)。
|
|
//
|
|
// 为什么需要可配:不同团队对"告警发送历史留多久 / 审计日志留多久"要求不同 —
|
|
// 合规场景要 90~180 天,小团队 7 天就够。写死在代码里只能改一次发一次版。
|
|
//
|
|
// 注意区分:Loki 的日志保留期是**部署级**配置(组件部署 → 保留策略),
|
|
// 这里管的是平台自己产生的小数据(投递历史、审计日志)。
|
|
const (
|
|
settingKeyAlertDeliveryDays = "alertDeliveryRetentionDays"
|
|
settingKeyAuditLogDays = "auditLogRetentionDays"
|
|
|
|
defaultAlertDeliveryDays = 7
|
|
defaultAuditLogDays = 90
|
|
|
|
// 硬上限:即使配置得很大,也不能让 JSON 文件型 DB 无界增长
|
|
maxAlertDeliveries = 20000
|
|
)
|
|
|
|
// RetentionSettings 平台数据保留期(天)
|
|
type RetentionSettings struct {
|
|
AlertDeliveryDays int `json:"alertDeliveryDays"`
|
|
AuditLogDays int `json:"auditLogDays"`
|
|
}
|
|
|
|
// GetRetentionSettings 读取保留期配置,未配置时返回默认值。
|
|
func GetRetentionSettings() RetentionSettings {
|
|
db := repository.GetDB()
|
|
if db == nil {
|
|
return retentionDefaults()
|
|
}
|
|
db.RLock()
|
|
defer db.RUnlock()
|
|
return retentionFromDBLocked(db)
|
|
}
|
|
|
|
func retentionDefaults() RetentionSettings {
|
|
return RetentionSettings{
|
|
AlertDeliveryDays: defaultAlertDeliveryDays,
|
|
AuditLogDays: defaultAuditLogDays,
|
|
}
|
|
}
|
|
|
|
// retentionFromDBLocked 从已持有的锁内读取配置,**不会再加锁**。
|
|
//
|
|
// 为什么必须单独一个函数:Go 的 sync.RWMutex 不可重入。
|
|
// 调用方已经 db.Lock() 时再调 GetRetentionSettings()(内部 RLock)会**永久死锁** ——
|
|
// 实测把整个平台写路径卡死(登录都要写审计,于是登录 28 秒返回空)。
|
|
func retentionFromDBLocked(db *repository.JsonDB) RetentionSettings {
|
|
out := retentionDefaults()
|
|
for _, item := range db.Settings {
|
|
switch item.Key {
|
|
case settingKeyAlertDeliveryDays:
|
|
if v, err := strconv.Atoi(item.Value); err == nil && v > 0 {
|
|
out.AlertDeliveryDays = v
|
|
}
|
|
case settingKeyAuditLogDays:
|
|
if v, err := strconv.Atoi(item.Value); err == nil && v > 0 {
|
|
out.AuditLogDays = v
|
|
}
|
|
}
|
|
}
|
|
return out
|
|
}
|
|
|
|
// SaveRetentionSettings 保存保留期配置(天数)。
|
|
func SaveRetentionSettings(alertDays, auditDays int) error {
|
|
if alertDays < 1 || alertDays > 365 {
|
|
return errors.New("告警发送历史保留天数需在 1~365 之间")
|
|
}
|
|
if auditDays < 1 || auditDays > 3650 {
|
|
return errors.New("审计日志保留天数需在 1~3650 之间")
|
|
}
|
|
db := repository.GetDB()
|
|
if db == nil {
|
|
return errors.New("数据库未初始化")
|
|
}
|
|
db.Lock()
|
|
upsertSettingLocked(db, settingKeyAlertDeliveryDays, strconv.Itoa(alertDays))
|
|
upsertSettingLocked(db, settingKeyAuditLogDays, strconv.Itoa(auditDays))
|
|
db.RequestSave()
|
|
db.Unlock()
|
|
|
|
// 立刻按新策略裁剪一次,避免"改了配置但旧数据还在"
|
|
PruneAlertDeliveries()
|
|
PruneAuditLogs()
|
|
return nil
|
|
}
|
|
|
|
// upsertSettingLocked 写入/更新一条设置(调用方必须已持写锁)。
|
|
func upsertSettingLocked(db *repository.JsonDB, key, value string) {
|
|
for i := range db.Settings {
|
|
if db.Settings[i].Key == key {
|
|
db.Settings[i].Value = value
|
|
return
|
|
}
|
|
}
|
|
// 不能用 db.NextID():它内部会 d.mu.Lock(),而调用方已经持有写锁,
|
|
// sync.Mutex 不可重入 → 永久死锁(这个坑在审计日志里踩过一次)。
|
|
// 这里在锁内自己算最大 ID + 1。
|
|
nextID := uint(1)
|
|
for _, item := range db.Settings {
|
|
if item.ID >= nextID {
|
|
nextID = item.ID + 1
|
|
}
|
|
}
|
|
db.Settings = append(db.Settings, models.SystemSetting{
|
|
ID: nextID,
|
|
Key: key,
|
|
Value: value,
|
|
})
|
|
}
|
|
|
|
// alertDeliveryRetentionLocked 返回投递历史保留时长(调用方必须已持锁)。
|
|
func alertDeliveryRetentionLocked(db *repository.JsonDB) time.Duration {
|
|
return time.Duration(retentionFromDBLocked(db).AlertDeliveryDays) * 24 * time.Hour
|
|
}
|
|
|
|
// auditLogRetentionLocked 返回审计日志保留时长(调用方必须已持锁)。
|
|
func auditLogRetentionLocked(db *repository.JsonDB) time.Duration {
|
|
return time.Duration(retentionFromDBLocked(db).AuditLogDays) * 24 * time.Hour
|
|
}
|