impairment-eval(场景类型)
引擎v0.40.0的场景类型,所属系列为压制干扰、欺骗干扰与频谱。仅供参考:研究与工程工具的分析输出,不是经型式认可的导航设备,也不是生命安全服务。此处每个标签均由引擎或验证矩阵给出;除非矩阵另有说明,一个类型即为MODELLED(标签如何获得,见README的Evidence一节)。
作用#
机器学习射频损伤检测评估试验平台(13494):生成带标签的、有参数依据的合成语料(nominal/jamming/spoof-time/spoof-position/multipath),用与检测器无关的测试框架对检测器(energy|agc|sqm|parity|fused)评分,并报告AUC/ROC/混淆矩阵 + 目标Pfa下的各类Pd,以及分布内与分布外的乐观差距。仅有MODELLED工作特性——绝不使用外场/IQ数据,不给出好/坏结论。
scenarios/impairment-eval.toml的一次运行汇总为:impairment-eval | detector fused(max-z) | AUC 0.998 in / 0.981 out (gap 0.017) | Pd 0.99 Pfa 0.05 @ target 0.05 | 1000 cases | MODELLED synthetic
输入#
来自模式(kshana kinds --json):
- 必填字段:无
- 可选字段:
seed、n_per_class、nominal_cn0_dbhz、meas_noise、detector、target_pfa、shift_severity_scale、optimism_tol
示例scenarios/impairment-eval.toml设置了以下内容等:
| 字段 | 取值 | 单位 |
|---|---|---|
detector |
fused | 文本 |
kind |
impairment-eval | 文本 |
meas_noise |
0.6 | 未说明 |
n_per_class |
200 | 计数 |
nominal_cn0_dbhz |
45 | dB-Hz |
optimism_tol |
0.05 | 未说明 |
seed |
42 | 未说明 |
shift_severity_scale |
0.5 | 1 |
target_pfa |
0.05 | 1 |
运行#
kshana scenarios/impairment-eval.toml
给出什么#
该次运行的标量结果,单位为引擎所给出的单位:
| 结果 | 取值 | 单位 |
|---|---|---|
auc |
0.997719 | 1 |
corpus.n_cases |
1000 | 计数 |
corpus.n_per_class |
200 | 计数 |
detector |
fused(max-z) | 文本 |
distribution_shift.auc_in |
0.997719 | 1 |
distribution_shift.auc_out |
0.981131 | 1 |
distribution_shift.note |
auc_out采用更细微的调谐外区 | 文本 |
distribution_shift.optimism_gap |
0.016587 | 1 |
distribution_shift.optimistic |
false | 标志 |
distribution_shift.shift_severity_scale |
0.5 | 1 |
引擎给出的结果标签:MODELLED — 合成的、有参数依据的语料(绝不使用外场/IQ数据);仅有工作特性,不给出好/坏结论
证据#
MODELLED 1 · VALIDATED 2:列出此类型的验证矩阵各行。
- VALIDATED AUC(Mann-Whitney,并列取 ½)、阈值处的混淆矩阵、P_d/P_md/P_fa/精确率/准确率/F1测试:eval_metrics_reference.rs。
- VALIDATED区分真实带标签异常的ROC AUC + 自助法置信区间;透明检测器(复现标签)测试:opssat_ad_reference.rs。
- MODELLED带标签的合成损伤语料 + 与检测器无关的ROC/AUC/混淆矩阵/Pfa-Pmd测试框架;泄漏防护、分层划分、分布偏移(分布内与分布外工况)乐观性报告。
本次运行实际涉及的各行,以及矩阵为每行给出的参考基准(oracle)(公开来源在矩阵中列出):
- VALIDATED AUC(Mann-Whitney,并列取 ½)、阈值处的混淆矩阵、P_d/P_md/P_fa/精确率/准确率/F1。参考基准(oracle,ExternalDataset):scikit-learn 1.9.0(Pedregosa等,JMLR 2011)——独立的库,完全吻合
- MODELLED确定性、场景哈希、SBOM加跨平台golden门限。参考基准(ExternalDataset):SBOM与官方CycloneDX 1.5 JSON Schema(加有效的SPDX标识符)一致,这是已发布的外部标准,整个依赖图上零验证错误;FoM确定性与逐字节可复现性部分仍是固定的自洽性检查,因此该行仍为MODELLED
- MODELLED带标签的合成损伤语料 + 与检测器无关的ROC/AUC/混淆矩阵/Pfa-Pmd测试框架;泄漏防护、分层划分、分布偏移(分布内与分布。参考基准(oracle,InternalConsistency):闭式AUC界(Mann–Whitney)+ 完美参考基准检测器;语料为合成数据(有参数依据,不是外场/IQ数据)
局限#
本次运行自身的报告所说的未建模或未经独立验证的内容:
- MODELLED — 合成的、有参数依据的语料(绝不使用外场/IQ数据);仅有工作特性,不给出好/坏结论(结果
label) - 仅有MODELLED工作特性——绝不使用外场/IQ数据,不给出好/坏结论。(类型目录(
kshana kinds --json)) - 如实说明范围:仅有MODELLED工作特性。语料是合成的、有参数依据的(由Kshana的压制干扰/AGC/SQM/奇偶校验模型组合而成)——绝不是外场采集数据或原始IQ。该测试框架是裁判;它报告特性,不给出好/坏结论。运行:kshana scenarios/impairment-eval.toml(场景文件注释,第9至12行)
- 可复现性与软件保障为MODELLED,而不是经独立验证:其中一项子声明经过外部核对,但整项能力由模型计算的部分组合而成,因此该能力仍属于由模型计算得出一级。(验证矩阵(docs/MODELLED-RATIONALE.md))
- 机器学习射频损伤检测评估(13494)为MODELLED,未经独立验证:它是对照自身的闭式/解析恒等式检查的,能发现转录和系数错误,但不是外部参考基准(oracle)。(验证矩阵(docs/MODELLED-RATIONALE.md))
另请参阅#
- 系列页面:压制干扰、欺骗干扰与频谱
- 所有类型:KINDS.md
- 主题页面:BENCH.md