11 lines
614 B
Markdown
11 lines
614 B
Markdown
# Chantier 1 — prefill multi-ubatch (cli hang pp512+)
|
|
|
|
## Symptôme
|
|
cli prompt court OK; gros prefill pend. bench pp512 OK (1 ubatch). unaccounted=2^44 = cosmétique.
|
|
Hyp: prompt > n_ubatch → 2e ubatch prefill GDN → boucle handoff état S.
|
|
|
|
## Étape 1: trouver le seuil
|
|
|
|
## Conclusion: NON-BUG cote moteur
|
|
bench pp2048 (4 ubatches @b512) = 46.2 t/s OK. Multi-ubatch sain. cli court=8tok gen OK; cli ~160tok pend = bug cli interactif/reasoning, PAS lib. Kazeia = lib JNI, pas cli. unaccounted 2^44 = cosmetique breakdown. => chantier 1 CLOS, aucun fix moteur. Bench est le harness de ref. cli a eviter prod.
|