interpretable-attribution(可解释归因)
北极星能力域「前沿认知(下一梯队)·可解释归因」实体化。一线大模型常给出黑箱预测, 本技能补上"决策依据与特征归因",使输出可追溯、可辩护。
何时使用
- 需要解释某个分类/回归预测"为什么是这个结果"。
- 需要向人说明模型决策的驱动因素(合规/调试/信任)。
- 需要"如果改了 X,预测会不会变"的反事实追问。
工作流
- 数据/模型接入:数据集(json list of dicts,含 label 字段) + 预测函数
predict(r)->val(py 文件定义)。 - 全局重要性:permutation importance —— 打乱某特征,看整体评分下降幅度,排序得全局归因。
- 局部重要性:local ablation —— 把待测样本某特征置为基值,看该样本预测变化。
- 反事实:counterfactual —— 贪心选"置为极值/离散候选后预测最接近目标"的特征翻转,得最少改动集。
- 自然语言归因:top-k 特征 -> 可读决策理由;边界附近样本给出"预测稳健"说明。
- 可靠自验证:脚本内置
--selftest实测断言(首要特征=真因、反事实可翻转),reliability<0.8 即回退重做。
运行
# 内置自检(无外部依赖)
python scripts/attributor.py --selftest
# 实际归因
python scripts/attributor.py --data d.json --predict p.py --instance i.json --label label
增强点(融入元进化闭环)
- 自验证:selftest 断言首要特征与反事实翻转,防表面话术。
- 自进化:已注入 learner,纳入 meta-evolver 的 sense/plan/record 闭环。
已知限制
- 排列重要性依赖样本量,小样本方差大(建议 n_perm>=20)。
- 反事实为贪心近似,未必是全局最小改动集(NP 难)。
- 仅支持单样本、扁平特征;嵌套结构需先扁平化。
