機械翻訳であり、ネイティブスピーカーによる確認は行われていません。英語版が基準です。

ベンチマーク

同じログ、同じルール。スコアは公開されています。

kshana-bench は、GNSS 干渉検出とタイミングのホールドオーバーについて、タスク、分割、指標を固定したセットであり、異なる手法を同じデータで比較できるようにするものです。投稿はファイル一つであり、投稿者に代わって何かが実行されることはありません。ベースラインはエンジン自身のモニターであり、合格基準は最初のスコア付き実行より前に書き残されています。

01ボード

エンジンがスコア付けした結果ファイル。

kshana-bench リーダーボード

kshana-bench/2.0.0 のもとでスコア付けされた結果ファイル。一行は、このファイルがこの分割でこの数値を記録したことを示します。いかなる製品も誰かによって格付けまたは承認されたことを意味せず、推奨者として名前が挙がる組織もありません。

助言のみ:明示された参照に対してモデル化または測定したものであり、承認、認証、適合性の表明ではありません。スコアはログまたはコーパスを記述するものであり、製品を記述するものではありません。

タスク (a):受信機ログでの検出

分割:dev
システムAUCP_fa 上限での P_d(上界)来歴真値 SHA-256
kshana receiver-trust agc_k_sigma(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.9810.875スコア付け済み334946332bb0
kshana receiver-trust cn0_drop_db(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.9520.904スコア付け済み334946332bb0
kshana receiver-trust jam_ind_threshold(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.9090.147スコア付け済み334946332bb0
分割:holdout
システムAUCP_fa 上限での P_d(上界)来歴真値 SHA-256
kshana receiver-trust agc_k_sigma(0.35 デフォルトのモニター統計量)kshana-bench/2.0.01.0000.000スコア付け済み38b7d5e8b158
kshana receiver-trust jam_ind_threshold(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.6100.148スコア付け済み38b7d5e8b158
kshana receiver-trust cn0_drop_db(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.5640.562スコア付け済み38b7d5e8b158
分割:test
システムAUCP_fa 上限での P_d(上界)来歴真値 SHA-256
kshana receiver-trust cn0_drop_db(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.8640.522スコア付け済みee721e0bf7dc
kshana receiver-trust agc_k_sigma(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.7660.000スコア付け済みee721e0bf7dc
kshana receiver-trust jam_ind_threshold(0.35 デフォルトのモニター統計量)kshana-bench/2.0.00.5560.104スコア付け済みee721e0bf7dc

タスク (b):IQ での検出

分割:test
システムAUCP_fa 上限での P_d(上界)来歴真値 SHA-256
kshana iq モニター:cn0_drop (CUSUM) kshana-bench/2.0.00.785n/a引き継ぎ:docs/design/DETECTION-ROC.md の第3節、tests/iq_campaign_roc.rs の R1 キャンペーン、2026-10-13 に実行。bench v1 では再実行していません。基準 R1(AUC >= 0.95)は NOT MET でした。000000000000

タスク (c):タイミングのホールドオーバー予測

分割:dev
システムRMSE 3600 s (ns)RMSE 300 s (ns)RMSE 7200 s (ns)来歴真値 SHA-256
kshana-bench ベースライン:線形 kshana-bench/2.0.00.1280.0190.198スコア付け済み2b71fa325bff
kshana-bench ベースライン:二次 kshana-bench/2.0.00.1350.0190.235スコア付け済み2b71fa325bff
kshana-bench ベースライン:保持 kshana-bench/2.0.026.8762.23853.778スコア付け済み2b71fa325bff
分割:test
システムRMSE 3600 s (ns)RMSE 300 s (ns)RMSE 7200 s (ns)来歴真値 SHA-256
kshana-bench ベースライン:線形 kshana-bench/2.0.00.1620.0230.243スコア付け済みb2ed58864e98
kshana-bench ベースライン:二次 kshana-bench/2.0.00.1830.0240.290スコア付け済みb2ed58864e98
kshana-bench ベースライン:保持 kshana-bench/2.0.024.6122.05049.314スコア付け済みb2ed58864e98

タスク (d):分布外の楽観ギャップ

分割:dev
システム分布内の AUC分布外の AUC楽観ギャップフラグ来歴真値 SHA-256
impairment-eval ベースライン:fused(max-z) kshana-bench/2.0.00.9980.9820.015許容差内スコア付け済みf69917c70201
impairment-eval ベースライン:sqm-imbalance kshana-bench/2.0.00.8670.8660.001許容差内スコア付け済みf69917c70201
impairment-eval ベースライン:agc-excess kshana-bench/2.0.00.8540.8280.026許容差内スコア付け済みf69917c70201
impairment-eval ベースライン:raim-parity kshana-bench/2.0.00.6550.6420.013許容差内スコア付け済みf69917c70201
impairment-eval ベースライン:energy(cn0-drop) kshana-bench/2.0.00.6100.5720.038許容差内スコア付け済みf69917c70201
分割:test
システム分布内の AUC分布外の AUC楽観ギャップフラグ来歴真値 SHA-256
impairment-eval ベースライン:fused(max-z) kshana-bench/2.0.00.9980.9830.015許容差内スコア付け済み1dddb8f6f0d5
impairment-eval ベースライン:sqm-imbalance kshana-bench/2.0.00.8820.8820.001許容差内スコア付け済み1dddb8f6f0d5
impairment-eval ベースライン:agc-excess kshana-bench/2.0.00.8480.8190.030許容差内スコア付け済み1dddb8f6f0d5
impairment-eval ベースライン:raim-parity kshana-bench/2.0.00.6820.6720.010許容差内スコア付け済み1dddb8f6f0d5
impairment-eval ベースライン:energy(cn0-drop) kshana-bench/2.0.00.5950.5650.030許容差内スコア付け済み1dddb8f6f0d5

行に外部オラクルが一致したと明記されていない限り、すべてのスコアはモデル計算によるものです。仕様とマニフェストのライセンス:CC-BY-4.0 / CC0 を提案中であり、所有者の決定待ちです。実データのホールドアウトは秘密ではありません。仕様の第4節を参照してください。

02行の意味

スコアが表すのはログであり、製品ではありません。

  • 一行が示すのは、このファイルが仕様バージョン V のもとで分割 S において X をスコアしたということです。製品が認証済み、適合、承認済み、推奨されていることを示すものではなく、推奨者として名前が挙がる組織もありません。
  • データは記録されたものか合成されたもので、仕様に明記されています。第三者のデータがリポジトリにコピーされることはありません。マニフェストと取得スクリプトが各ファイルを SHA-256 で固定し、データを使用する前に各ライセンスを記録します。
  • 記録されたログの真値は、実際の放送時刻の記録ではなく、試験計画で予定されたスロットです。そのため、検出確率は下限値です。仕様は各タスクの横にその旨を記しています。
  • 封印されたホールドアウトは、リーダーボードのラウンドでのみスコア付けされ、そのシードはラウンド後に公開されます。数値を主張するベースラインの合格基準は、スコア付き実行の前に確定され、その後に緩められることはありません。未達は NOT MET として記録されます。
  • 結果ファイルに記録された判定:スコアラーの合格基準、C1 から C3、および D2 は満たしています。A2 は NOT MET(test 分割で agc_k_sigma の AUC が 0.766、基準は 0.80 以上)、D1 は NOT MET(最大ギャップ 0.0301)、タスク (b) の R1 は NOT MET(引き継ぎであり、再実行していません)です。合格基準は緩められていません。
  • 助言のみ:Kshana の結果は、示された参照に対してモデル計算または測定したものであり、承認や適合の表明ではありません。

ご自身で実行できます。kshana bench score は提出物と分割の真値から結果ファイルを作成し、kshana bench leaderboard は結果ファイルをこのページに描画します。