measurement-disciplinelisted
Install: claude install-skill shimo4228/claude-harness
# Measurement Discipline
測定の主張には、その測定が成立する条件を先に問う。8 原則、いずれも実地の失敗から
(出所は CA repo での実測。原則自体はどの repo でも同じ形で壊れる)。
## 1. 1 回の成功は証拠でない
smoke 1 回で「機能した」と言って commit しない。stochastic な系(LLM・外部 I/O・
タイミング依存)では 1 回は分布の 1 標本。**主張の前に「何回・どの条件で見れば
言えるか」を決める** — 決められないなら主張を「動くことがある」に弱める。
(出所: follow 修正で 1 run 観察を「直った」と報告しかけた 2026-06 の訂正)
## 2. ゲートは暦でなく観測量で
段階実装・部分導入の「次へ進む」条件を日付・期間にしない。**必要な観測数を事前に
見積もり、その観測が溜まったら進む**。暦ゲートは観測ゼロでも発火し、観測量ゲートは
データが無ければ止まる — 止まるのが正しい。
(出所: shadow 計器の enforcement 判断を「2 週間後」でなく判定数で切った経緯)
観測数の決め方と開け方:
- **n は事前登録した問いから導く**(率の精度なら二項の 95% CI 半幅 ≈ 1/√n、±6 pt なら
300)。「十分溜まったら」は n でない
- **到達率で日数に換算して台帳に書く**(`再開条件: answered 300 行(60〜105 行/日、切替から
3〜5 日)`)。到達率は読みのたびに実測して幅で更新する — 予定日を書けない観測数条件は
照合先を欠く
- **n 到達日にゲートを開く。週次の儀式は clock でない** — 儀式でしか開かないゲートは n の
何倍も待たせる(出所: CA relevance shadow、1 日 60〜105 行で n = 300 の問いに「4 土曜 or
1,000 行」の clock を置いていた。2026-09-26 読み)
- **n が短い上限(既定 14 日)で満ちなければ延長でなく決める** — retire か、問いを小さくして
n を下げる。待つほど台帳で寝る
## 3. ガードの発火率 0% と 100% はどちらも設計ミス
疑わしさフィールド・警告・検査を置いたら、**実データで発火率を測る**。一度も発火
しないガードは読者に「検査済み・問題なし」と誤読させ(無いより悪い)、常時発火する
ガードは読み飛ばされる。較正できるデータが無いなら、ガードでなく生の読み値を出す。
(出所: 恒久 0 の `observed` フィールドを読者が集計して逆の結論を出した ADR-0082)
## 4. 数値キャップを品質フィルタにしない
`max_N` 型の上限は量の制御であって質の判定ではない。「上位 N 件」で切ると、N+1 位
以降の良品を黙って捨て、N 位以内の不良を黙って通す。品質を切りたいなら品質の軸で
判定器を立て、量を切りたいときだけキャップを使う — 混ぜた瞬間、どちらの保証も消える。
## 5. 通過分だけのスコアで分布を語らない
フィルタの下流に残ったデータは選択バイアス済み。「通過分の平均が高い」はフィルタの
機能証明にならない(棄却分を見ていない)。分布・較正・閾値の議論は**フィルタ前の
全量**か、少なくとも棄却側のサンプルを添えてから。
## 6. 戻せる変更は切替えてか