Richard Loyer c9d4e625eb dist: métriques vérifiées batterie pleine — KV f16 (pas q8_0), q35-lmq4 HTP=189 ... Reconfirmé device froid 90% (les chiffres throttlés d'hier soir étaient faux): - KV f16 >> q8_0 au decode: q35-lmq4 f16=10.9 vs q8_0=6.5 (-40%, idem d=512). Le déquant KV flash-attn coûte plus que le BW. JNI corrigé type_k/v=F16 (rebuild .so requis avant ship; le .so livré=q8_0 validé, inchangé). - q35-lmq4 prefill HTP=189 ~= 2x Qwen3.5-Q4_0 (98): embeds/output Q4 restent sur NPU vs Q6_K fallback CPU. Argument fort de plus pour q35-lmq4 (+5% decode ET ~2x prefill HTP). - decode sain: q35-lmq4 10.9, dense 11.7. prefill CPU JNI=14 (t4). Decision KV résolue; decision prefill CPU-only vs HTP ouverte (189 motive le câblage). Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>		2026-05-27 09:23:57 +02:00
..
EngineLlmEngine.kt	Bridge v3 utilisable: thinking-off ChatML, sys+usr, cap; static intact	2026-05-25 09:41:04 +02:00
kazeia_engine_jni.cpp	dist: métriques vérifiées batterie pleine — KV f16 (pas q8_0), q35-lmq4 HTP=189	2026-05-27 09:23:57 +02:00
test_engine.c	Valide device: generate() bout-en-bout OK (test_native), bridge pret integration	2026-05-24 22:05:44 +02:00
test_engine.cpp	Valide device: generate() bout-en-bout OK (test_native), bridge pret integration	2026-05-24 22:05:44 +02:00
test_native.cpp	v4 fix #277: ngl0 CPU decode 14tok/s, 4s/tour, usable	2026-05-25 10:18:31 +02:00