=== 为什么这样设计(成本优先)===
全集群 370GB/天,把日志原文丢给模型是不可能的(一次几百万 token)。
所以整条链路只做一件事:**把 GB 级日志压成 KB 级信号**。
P0 的信号来源全部是索引/快照,**零日志内容扫描**:
体积 + 趋势 → index/volume_range(实测 24h 仅 54ms)
条数/流数 → index/stats,且只在 ≤2 小时窗口用
(全天 index/stats 实测 20s,绝不能进 AI 路径)
应用排行 → 平台小时级预聚合快照(毫秒)
基线对比 → 上一个等长窗口的 volume_range
告警 → 平台投递记录
实测一次分析:3~6 秒、输入 600~1400 tokens(约 ¥0.005/次)。
=== 后端 ===
models/ai.go AIConfig(APIKey 加密存储)+ AIAnalysisRun(审计)
services/ai_config.go 读写配置、掩码返回、每日 token 用量统计
services/ai_provider.go OpenAI 兼容客户端 + 连通性测试
(DeepSeek/通义/内网 vLLM/Ollama 通用)
services/ai_redact.go 脱敏:凭据/邮箱/手机号/身份证 → 占位符,
**保留内网 IP 与端口**(排查必需)
services/ai_signal.go 信号采集 + 渲染成紧凑文本(省 token)
services/ai_analyze.go 结构化输出解析、配额闸门、审计落库
controllers/ai.go /ai/config /ai/config/test /ai/analyze /ai/runs
成本闸门(三层):
1) 单次:时间范围 ≤24h、maxTokens ≤1500
2) 每用户每日 token 上限(默认 50 万,可配,超限直接拒绝并说明)
3) 审计只留最近 500 条,避免表膨胀
=== 前端 ===
新页面 /aiops(侧栏「智能运维」,管理员),页内单层 tab:
日志分析 / 模型配置 / 分析历史
- 分析:数据源 + 时间预设(15m/1h/6h/24h) + 可选提问 → 结论/证据/建议/不确定 四区
顶部显示本次消耗(in/out tokens、耗时),可查看「发给模型的完整内容」
- 配置:启用开关、Base URL、模型、API Key(掩码)、温度、输出上限、超时、
每日配额、额外脱敏正则;按钮顺序改为「测试连接 → 保存配置」
- 历史:服务端分页(20/页),点行看详情与 payload
=== 两个真实踩坑(已修)===
1) 密码含 @ 导致脱敏漏掉(mysql://user:P@ssw0rd@host)
→ URL basic-auth 规则改为贪婪匹配到最后一个 @,由单测锁定
2) 结论里的时间是 UTC(容器无 tzdata,time.Local=UTC),
模型写"凌晨 6 点下跌"而运维当时是下午 2 点
→ 显式用东八区展示(LOKISTACK_DISPLAY_TZ=UTC 可覆盖)
=== 实测(69147008fcf4)===
配置保存 → key 掩码 sk-***e286;连通性测试返回「正常」
分析 15 分钟窗口:4.1s,结论识别出"窗口末段体积断崖约 -60%"
信号时间 14:23~14:38(本地时间正确)
历史分页 total=3,tokens/耗时字段完整
单测:脱敏 2 个用例 + 模型输出解析 4 个用例 + 6 条 AI 路由断言
88 lines
2.9 KiB
Go
88 lines
2.9 KiB
Go
package services
|
|
|
|
import (
|
|
"strings"
|
|
"testing"
|
|
)
|
|
|
|
// 脱敏的两条底线:
|
|
// 1) 凭据必须挡住(否则把 key 发给外部模型);
|
|
// 2) 排查必需的信息必须留着(IP/端口/命名空间/错误码),
|
|
// 否则模型给不出有用结论 —— 这比"脱得太干净"更常见。
|
|
func TestRedactText(t *testing.T) {
|
|
in := `2026-10-30 12:00:01 ERROR redis client: dial tcp 172.19.16.17:6379: connect: connection refused
|
|
password=Sup3rS3cret! user-admin
|
|
Authorization: Bearer eyJhbGciOiJIUzI1NiJ9.eyJzdWIiOiIxIn0.abcdefghijklmn
|
|
url: mysql://appuser:P@ssw0rd@10.2.3.4:3306/cex
|
|
contact: ops@example.com phone: 13800138000
|
|
accessKey=AKIAIOSFODNN7EXAMPLE`
|
|
|
|
out, invalid := RedactText(in, nil)
|
|
if len(invalid) != 0 {
|
|
t.Fatalf("内置规则不应产生无效正则: %v", invalid)
|
|
}
|
|
|
|
mustRedact := []string{"Sup3rS3cret", "eyJhbGciOiJIUzI1NiJ9", "P@ssw0rd", "ops@example.com", "13800138000", "AKIAIOSFODNN7EXAMPLE"}
|
|
for _, secret := range mustRedact {
|
|
if strings.Contains(out, secret) {
|
|
t.Errorf("敏感内容未脱敏: %q\n%s", secret, out)
|
|
}
|
|
}
|
|
|
|
mustKeep := []string{"172.19.16.17:6379", "connection refused", "10.2.3.4:3306", "redis"}
|
|
for _, keep := range mustKeep {
|
|
if !strings.Contains(out, keep) {
|
|
t.Errorf("排查必需的信息被误删: %q\n%s", keep, out)
|
|
}
|
|
}
|
|
}
|
|
|
|
// 用户自定义正则写错不能拖垮整次分析:跳过并在返回值里报告。
|
|
func TestRedactTextInvalidExtraRule(t *testing.T) {
|
|
out, invalid := RedactText("hello internal-id-12345", []string{`(unclosed`, `internal-id-\d+`})
|
|
if len(invalid) != 1 || invalid[0] != `(unclosed` {
|
|
t.Errorf("应报告 1 条无效规则,实际 %v", invalid)
|
|
}
|
|
if strings.Contains(out, "internal-id-12345") {
|
|
t.Errorf("有效自定义规则应生效: %s", out)
|
|
}
|
|
}
|
|
|
|
// 模型经常不按 JSON 返回,解析必须宽容,不能只报"解析失败"。
|
|
func TestParseAIResultTolerance(t *testing.T) {
|
|
cases := []struct {
|
|
name string
|
|
in string
|
|
want string // 期望的 summary 片段
|
|
}{
|
|
{
|
|
name: "标准 JSON",
|
|
in: `{"summary":"日志量正常","findings":[],"actions":[],"unknowns":[]}`,
|
|
want: "日志量正常",
|
|
},
|
|
{
|
|
name: "包了 ```json 代码块",
|
|
in: "```json\n{\"summary\":\"体积上涨 2 倍\",\"findings\":[{\"title\":\"t\",\"evidence\":\"e\",\"severity\":\"high\"}],\"actions\":[],\"unknowns\":[]}\n```",
|
|
want: "体积上涨 2 倍",
|
|
},
|
|
{
|
|
name: "前后加了解释",
|
|
in: `分析如下:{"summary":"存在告警","findings":[],"actions":[],"unknowns":[]} 希望有帮助`,
|
|
want: "存在告警",
|
|
},
|
|
{
|
|
name: "纯文本(降级)",
|
|
in: "看起来一切正常,没有异常日志。",
|
|
want: "看起来一切正常",
|
|
},
|
|
}
|
|
for _, c := range cases {
|
|
t.Run(c.name, func(t *testing.T) {
|
|
got := parseAIResult(c.in)
|
|
if !strings.Contains(got.Summary, c.want) {
|
|
t.Errorf("summary 不符: got %q want contains %q", got.Summary, c.want)
|
|
}
|
|
})
|
|
}
|
|
}
|