measurement-disciplinelisted
Install: claude install-skill shimo4228/claude-harness
# Measurement Discipline
測定の主張には、その測定が成立する条件を先に問う。5 原則、いずれも実地の失敗から
(出所は CA repo での実測。原則自体はどの repo でも同じ形で壊れる)。
## 1. 1 回の成功は証拠でない
smoke 1 回で「機能した」と言って commit しない。stochastic な系(LLM・外部 I/O・
タイミング依存)では 1 回は分布の 1 標本。**主張の前に「何回・どの条件で見れば
言えるか」を決める** — 決められないなら主張を「動くことがある」に弱める。
(出所: follow 修正で 1 run 観察を「直った」と報告しかけた 2026-06 の訂正)
## 2. ゲートは暦でなく観測量で
段階実装・部分導入の「次へ進む」条件を日付・期間にしない。**必要な観測数を事前に
見積もり、その観測が溜まったら進む**。暦ゲートは観測ゼロでも発火し、観測量ゲートは
データが無ければ止まる — 止まるのが正しい。
(出所: shadow 計器の enforcement 判断を「2 週間後」でなく判定数で切った経緯)
## 3. ガードの発火率 0% と 100% はどちらも設計ミス
疑わしさフィールド・警告・検査を置いたら、**実データで発火率を測る**。一度も発火
しないガードは読者に「検査済み・問題なし」と誤読させ(無いより悪い)、常時発火する
ガードは読み飛ばされる。較正できるデータが無いなら、ガードでなく生の読み値を出す。
(出所: 恒久 0 の `observed` フィールドを読者が集計して逆の結論を出した ADR-0082)
## 4. 数値キャップを品質フィルタにしない
`max_N` 型の上限は量の制御であって質の判定ではない。「上位 N 件」で切ると、N+1 位
以降の良品を黙って捨て、N 位以内の不良を黙って通す。品質を切りたいなら品質の軸で
判定器を立て、量を切りたいときだけキャップを使う — 混ぜた瞬間、どちらの保証も消える。
## 5. 通過分だけのスコアで分布を語らない
フィルタの下流に残ったデータは選択バイアス済み。「通過分の平均が高い」はフィルタの
機能証明にならない(棄却分を見ていない)。分布・較正・閾値の議論は**フィルタ前の
全量**か、少なくとも棄却側のサンプルを添えてから。
## 使い方
設計・レビューの場で該当原則を 1 つ名指しして問う(「これは原則 3 — このガードの
発火率をどのデータで較正した?」)。5 原則を毎回全部なぞらない。
## 失効条件
- substrate がこれらの問いを設計時に自発するようになったら退役(Scaffold Dissolution)
- 原則の出所となった実測が反証されたら該当原則を削る(原則は経験則であり公理ではない)