2256c077c9
Vérifié 27/05 batterie pleine, 3 fois (harness dual-ctx, device HTP0 explicite, llama-cli -dev HTP0 sortant de l'anglais cassé sur prompt FR). Le débit HTP (126-189 t/s) est réel mais l'état/logits produits sont corrompus -> generation inutilisable. Preuve que c'est le prefill et non le transfert: decode CPU depuis état prefillé-CPU = FR cohérent, depuis état prefillé-HTP = charabia. Dense Qwen3-4B sur HTP crashe (V79 0x2e). Donc les "189/98/285 prefill HTP" cités partout = débit jamais validé en sortie. Renverse l'hypothèse de fond "prefill HTP utilisable". => JNI reste ngl0 (CPU prefill 14 + CPU decode 10.9), seule config correcte. jni/dual_ctx.cpp = harness de validation (prouve aussi que le KV transfer 2-contextes CPU->CPU est cohérent et prêt le jour où le prefill HTP sera numériquement correct = bug backend frontière). Docs corrigées. Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com> |
||
|---|---|---|
| .. | ||
| EngineLlmEngine.kt | ||
| dual_ctx.cpp | ||
| kazeia_engine_jni.cpp | ||
| test_engine.c | ||
| test_engine.cpp | ||
| test_native.cpp | ||