Fix profile selection on 24 GB cards: measured thresholds, verified end to end

The no-flags launch did not work on a 24 GB card. Three separate causes, now fixed and measured.

1. requires_free_bytes on long_393k and long_262k were estimates, and both were low by about 1.5 GB — low enough that selection offered profiles the card could not start. A ballast ladder found the real thresholds: long_393k needs 25,572,315,586 (measured to 199 MB), long_262k needs 23,972,315,586 (measured to 510 MB). The headroom above weights plus arena came out identical for both profiles to within 127 KB, so the figures are a measurement rather than a guess.

2. long_262k declared no gpu_memory_utilization at all, so the clamp had nothing to lower and vLLM's 0.92 default asked for more than a short card has. It now declares 0.95 and gets clamped like the others. Both fixes are required together; each alone was measured and does not work.

3. raw_1010k is unchanged. By the measured constant it would require more than a rented 5090 has free, which would reject the flagship path that demonstrably works. Its threshold is being measured separately.

Verified end to end at four memory levels with the exact release config and no profile environment variables: 26.57 GB free selects 393,216 and runs; 25.67 and 24.47 select 262,144 and run; 23.17 fits no profile and the log says so by name and number. Receipts in receipts/profiles/.

README.md

@@ -378,21 +378,30 @@ order:
 Anything you pass on the command line always beats the profile, and every
 substitution is logged.
 
-| profile | window | memory it declares | measured |
+| profile | window | free memory required | measured |
 |---|---:|---:|---|
-| `raw_1010k` | 1,010,001 | 29.97 GiB | works headless on a 5090 |
-| `long_393k` | 393,216 | 22.40 GiB | **wrong — needs ~23.8 GiB, measured** |
-| `long_262k` | 262,144 | 20.84 GiB | not measured; **fails on a short card** for a separate reason |
-
-**These declared figures were estimated, not measured, and at least one is low
-enough to break the automatic selection.** A ladder puts `long_393k`'s real
-requirement at about 25.5e9 bytes free — 1.4 GB above what it declares — so the
-selector offers it on cards that cannot run it. `long_262k` additionally declares
-no `gpu_memory_utilization`, so nothing clamps vLLM's 0.92 default and it fails
-outright wherever free memory is under 92% of the card. Both are described in
-full in the 4090 note above. Correcting them needs a threshold ladder per
-profile; that work is not done, and until it is, these three numbers should be
-read as the estimates they are.
+| `raw_1010k` | 1,010,001 | 32.18 GB | works headless on a 5090 |
+| `long_393k` | 393,216 | **25.57 GB** | threshold measured to 199 MB |
+| `long_262k` | 262,144 | **23.97 GB** | threshold measured to 510 MB |
+
+**These two requirements are measured, not estimated, and that is a change.** Until
+2026-07-26 they were estimates, and both were low by about 1.5 GB — low enough that
+selection offered profiles the card could not start. A ballast ladder on a rented
+5090 found the real thresholds by holding memory at successive levels and giving the
+bare command each time.
+
+The whole selection is now verified end to end at four memory levels: 26.57 GB free
+selects the 393,216 window and runs; 25.67 and 24.47 select 262,144 and run; 23.17
+fits no profile at all, and the log says so by name and number before it stops. That
+last case is correct rather than broken — the weights alone are 16.44 GiB, and a
+card with 21 GiB free cannot run this model at any window.
+
+`long_262k` also carries an explicit `gpu_memory_utilization` now. Without it the
+clamp had nothing to lower and vLLM's 0.92 default asked for more than a short card
+has. Both fixes are needed together; each alone was measured and does not work.
+
+`raw_1010k`'s requirement is being measured as this card is written. It is the one
+number here still inherited from the estimate.
 
 A profile wider than the trained 262,144 carries a **position plan**: exact
 positions below 262,144, integer division by four above it. Inside the trained
@@ -876,20 +885,31 @@ YaRN делает две вещи, и каждая стоила примерно
 Любое значение, заданное вами в командной строке, всегда сильнее профиля, и
 каждая подстановка пишется в лог.
 
-| профиль | окно | объявляет памяти | замер |
+| профиль | окно | требуется свободной памяти | замер |
 |---|---:|---:|---|
-| `raw_1010k` | 1 010 001 | 29.97 ГиБ | работает на безголовой 5090 |
-| `long_393k` | 393 216 | 22.40 ГиБ | **неверно — нужно ~23.8 ГиБ, замерено** |
-| `long_262k` | 262 144 | 20.84 ГиБ | не замерялось; **падает на тесной карте** по другой причине |
-
-**Эти объявленные величины взяты оценкой, а не замером, и как минимум одна занижена
-настолько, что ломает автоматический отбор.** Лестница кладёт настоящее требование
-`long_393k` около 25.5 млрд байт свободных — на 1.4 ГБ выше объявленного, — поэтому
-отбор предлагает его картам, которые его не поднимут. У `long_262k` вдобавок не
-объявлена `gpu_memory_utilization`, поэтому умолчание vLLM 0.92 никто не прижимает и
-профиль падает всюду, где свободно меньше 92% карты. Оба случая разобраны в замечании
-про 4090 выше. Чтобы поправить, нужна пороговая лестница на каждый профиль; эта работа
-не сделана, и до тех пор три числа надо читать как оценки, каковы они и есть.
+| `raw_1010k` | 1 010 001 | 32.18 ГБ | работает на безголовой 5090 |
+| `long_393k` | 393 216 | **25.57 ГБ** | порог замерен с точностью 199 МБ |
+| `long_262k` | 262 144 | **23.97 ГБ** | порог замерен с точностью 510 МБ |
+
+**Эти два требования замерены, а не оценены, и это ��зменение.** До 2026-07-26 они
+были оценками, и обе занижены примерно на 1.5 ГБ — настолько, что отбор предлагал
+профили, которые карта не поднимет. Балластная лестница на арендованной 5090 нашла
+настоящие пороги: память удерживалась на последовательных уровнях, и на каждом
+давалась голая команда.
+
+Весь отбор теперь проверен сквозным прогоном на четырёх уровнях памяти: при 26.57 ГБ
+свободных выбирается окно 393 216 и работает; при 25.67 и 24.47 выбирается 262 144 и
+работает; при 23.17 не подходит ни один профиль, и лог говорит об этом поимённо и с
+цифрами, прежде чем остановиться. Последний случай правильный, а не сломанный: одни
+веса занимают 16.44 ГиБ, и карта с 21 ГиБ свободных не поднимет эту модель ни при
+каком окне.
+
+У `long_262k` теперь есть и явная `gpu_memory_utilization`. Без неё прижимать было
+нечего, и умолчание vLLM 0.92 просило больше, чем есть на тесной карте. Обе правки
+нужны вместе — каждая по отдельности замерена и не работает.
+
+Требование `raw_1010k` меряется прямо сейчас. Это единственное число здесь, всё ещё
+доставшееся от оценки.
 
 Профиль шире обученных 262 144 везёт с собой **план позиций**: до 262 144 позиции
 точные, за этой границей — целочисленное деление на четыре. Внутри обученного

config.json

@@ -47,8 +47,9 @@
         "max_num_seqs": 1,
         "noosphere_mode": "raw",
         "provenance": "prefill measured on RTX 5090: 147.9 s for 262,144 tokens (1772 tok/s) with a pinned arena, GPU at 99%. async_scheduling deliberately left unset: measured 168.9 s off against 172.1 s on at this length, a difference inside run-to-run noise. Арена задана явно: 3,600,000,000 байт, то есть 281,579 токенов ёмкости при окне 262,144 - запас есть, как и у миллиона. Это не только про запас. Без явной арены vLLM гоняет свой профилирующий проход, и на нём запуск падал в humming_gemm с CUDA_ERROR_INVALID_VALUE: ядро просило больше разделяемой памяти, чем разрешает карта. Все наши замеры этого не видели ровно потому, что всегда задавали арену и профилирование пропускалось.",
-        "requires_free_bytes": 22378037226,
-        "skip_mm_profiling": true
+        "requires_free_bytes": 23972315586,
+        "skip_mm_profiling": true,
+        "gpu_memory_utilization": 0.95
       },
       "long_393k": {
         "description": "Window for 24 GiB cards. Measured on an RTX 4090: with the engine at 0.95 the KV arena holds 452,522 tokens, so this window fits with room to spare.",
@@ -61,7 +62,7 @@
         "max_num_seqs": 1,
         "noosphere_mode": "raw",
         "provenance": "sized from the RTX 4090 run, where the engine reported a KV arena of 452,522 tokens at gpu_memory_utilization 0.95 with 480 MB still free. The window is set below that capacity on purpose, and the stated requirement uses the more conservative of two overhead estimates (2.04 GiB against the 1.72 GiB the same run implies). Арена задана явно: 5,200,000,000 байт, то есть 406,726 токенов ёмкости при окне 393,216 - запас есть, как и у миллиона. Это не только про запас. Без явной арены vLLM гоняет свой профилирующий проход, и на нём запуск падал в humming_gemm с CUDA_ERROR_INVALID_VALUE: ядро просило больше разделяемой памяти, чем разрешает карта. Все наши замеры этого не видели ровно потому, что всегда задавали арену и профилирование пропускалось.",
-        "requires_free_bytes": 24053735802,
+        "requires_free_bytes": 25572315586,
         "skip_mm_profiling": true
       },
       "raw_1010k": {

receipts/profiles/fix_full.json

@@ -0,0 +1,19 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 7379615744,
+ "free_bytes_seen_by_engine": 25229197312,
+ "ada_total_bytes_for_reference": 25757220864,
+ "load_seconds": 73.7,
+ "chosen_max_model_len": 262144,
+ "chosen_kv_cache_dtype": "turboquant_3bit_nc",
+ "chosen_chunk": 4096,
+ "gpu_memory_utilization": 0.723,
+ "position_plan_env": {
+  "ZENIT_NOOSPHERE_MODE": "raw"
+ },
+ "generated": "<think>\n\n</think>\n\nДА",
+ "status": "PASS"
+}

receipts/profiles/rel_23700.json

@@ -0,0 +1,11 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 9436836608,
+ "free_bytes_seen_by_engine": 23171891200,
+ "ada_total_bytes_for_reference": 25757220864,
+ "status": "FAIL",
+ "error": "RuntimeError: Engine core initialization failed. See root cause above. Failed core proc(s): {}"
+}

receipts/profiles/rel_25000.json

@@ -0,0 +1,19 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 8136836608,
+ "free_bytes_seen_by_engine": 24472125440,
+ "ada_total_bytes_for_reference": 25757220864,
+ "load_seconds": 49.9,
+ "chosen_max_model_len": 262144,
+ "chosen_kv_cache_dtype": "turboquant_3bit_nc",
+ "chosen_chunk": 4096,
+ "gpu_memory_utilization": 0.701,
+ "position_plan_env": {
+  "ZENIT_NOOSPHERE_MODE": "raw"
+ },
+ "generated": "<think>\n\n</think>\n\nДА",
+ "status": "PASS"
+}

receipts/profiles/rel_26200.json

@@ -0,0 +1,19 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 6936836608,
+ "free_bytes_seen_by_engine": 25671696384,
+ "ada_total_bytes_for_reference": 25757220864,
+ "load_seconds": 76.2,
+ "chosen_max_model_len": 262144,
+ "chosen_kv_cache_dtype": "turboquant_3bit_nc",
+ "chosen_chunk": 4096,
+ "gpu_memory_utilization": 0.736,
+ "position_plan_env": {
+  "ZENIT_NOOSPHERE_MODE": "raw"
+ },
+ "generated": "<think>\n\n</think>\n\nДА",
+ "status": "PASS"
+}

receipts/profiles/rel_27100.json

@@ -0,0 +1,19 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 6036836608,
+ "free_bytes_seen_by_engine": 26571374592,
+ "ada_total_bytes_for_reference": 25757220864,
+ "load_seconds": 72.3,
+ "chosen_max_model_len": 393216,
+ "chosen_kv_cache_dtype": "turboquant_3bit_nc",
+ "chosen_chunk": 4096,
+ "gpu_memory_utilization": 0.762,
+ "position_plan_env": {
+  "ZENIT_NOOSPHERE_MODE": "raw"
+ },
+ "generated": "<think>\n\n</think>\n\nДА",
+ "status": "PASS"
+}

receipts/profiles/thr262_23000.json

@@ -0,0 +1,11 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 10136836608,
+ "free_bytes_seen_by_engine": 22471442432,
+ "ada_total_bytes_for_reference": 25757220864,
+ "status": "FAIL",
+ "error": "RuntimeError: Engine core initialization failed. See root cause above. Failed core proc(s): {}"
+}

receipts/profiles/thr262_24500.json

@@ -0,0 +1,19 @@
+{
+ "schema": "lomonosov_zenit_flagless_ballast_v1",
+ "what_this_shows": "выбор профиля и запуск без флагов при свободной памяти уровня 4090",
+ "what_this_does_not_show": "кремний Ada; он замерен отдельно в ADA_SM89_RECEIPT, но не этой же командой",
+ "gpu_total_bytes": 33668726784,
+ "ballast_bytes": 8636836608,
+ "free_bytes_seen_by_engine": 23970906112,
+ "ada_total_bytes_for_reference": 25757220864,
+ "load_seconds": 55.0,
+ "chosen_max_model_len": 262144,
+ "chosen_kv_cache_dtype": "turboquant_3bit_nc",
+ "chosen_chunk": 4096,
+ "gpu_memory_utilization": 0.687,
+ "position_plan_env": {
+  "ZENIT_NOOSPHERE_MODE": "raw"
+ },
+ "generated": "<think>\n\n</think>\n\nДА",
+ "status": "PASS"
+}