Co to znamená
Nikdo nevede seznam toho, co měřit. Každá spustitelná schopnost s povinnou politikou je cílem přímo i na každém transportu, který její vystavení deklaruje, s případy, které poskytuje její vstupní typ; vlastní operace transportů (studený proces majordomus mcp, initialize, ping, tools/list, resources/list, resources/read, GET /, /openapi.json, /docs) jsou cíle deklarované jednou. majordomus bench coverage hlásí pokryté ku požadovaným, kde požadované se počítá z registru; schopnost, jejíž vstupní typ pro daný repozitář nevytvoří žádný případ, chybí a capabilities validate, bench coverage --check i CI na tom selžou. Výjimka je typovaný důvod na deskriptoru, hlásí se a nikdy se nepočítá jako pokrytá.
Princip
apps/majordomus-cli/src/bench/projection.rs odvozuje cíle z registru a poskytovatelů případů; bench/coverage.rs počítá požadavky a součty; bench/runner.rs měří cíl přes executor, přes skutečný loopback socket se vstupem navázaným tak, jak ho váže trasa, a přes skutečný potomek majordomus mcp --standalone; bench/results.rs a bench/baseline.rs drží verzovaný výsledný dokument, baseline pro každou platformu a politiku regrese čtenou z .ai/repo/benchmarks/rust/policy.yaml; commands/bench.rs je příkazový řádek.
Jak to vidět
apps/majordomus-cli/target/debug/majordomus bench coverage # per transport and in total: covered / required, missing 0, waived 0
apps/majordomus-cli/target/debug/majordomus bench --profile quick # every target, slowest p95 first; written under .ai/local/benchmarks/
apps/majordomus-cli/target/debug/majordomus bench objects.search --transport mcp --profile full --format json
apps/majordomus-cli/target/debug/majordomus bench --profile ci --check # against .ai/repo/benchmarks/rust/baseline.<platform>.json, under the policyCo nepokrývá
Hodnoty reálného času závisejí na stroji: baseline se porovnává jen na vlastní platformě a CI runnery bez commitnutého baseline neporovnávají nic. Cíl „process-cold“ je ze své podstaty zašuměný; absolutní práh politiky a prahy pro jednotlivé metriky jsou data, která člověk ladí na základě důkazů. Transport MCP měří teplý proces pro cachovanou schopnost (studený nelze zvenčí pozorovat); přímý transport hlásí studený i teplý.
Proč existuje
„Jen reprezentativní endpointy“ je cesta, jak unikne ten pomalý; operátor chtěl každou operaci s generovaným jmenovatelem. project.rust-benchmark-coverage je pravidlo, ADR 0004 rozhodnutí. apps/majordomus-cli/tests/bench.rs dokládá odvození, že přidaná nebo odebraná expozice přidá nebo odebere požadavek i cíl bez jiné úpravy, že tři runnery měří skutečné transporty a že kontrola hlásí každý řádek a nikdy nepřipojí zastaralý baseline k přejmenovanému cíli; test/cases/91_canonical_architecture.sh přepočítá jmenovatel z živého registru a porovná jej s dokumentem pokrytí.