Kazeia-engine/dist/STATUS.md

563 B

Statut & limites (24/05) — à lire avant intégration

VALIDÉ device: load 4B/9B HTP, prefill NPU + decode CPU, generate() bout-en-bout (test_native), 9B>4B qualité, cascade 9B+Guard4B 7.5GB. RAM -30% vs pte. LIMITES: (1) prefill GDN-HTP non bit-exact (default OFF, GGML_HEXAGON_GDN_PREFILL=1 opt-in); decode CPU = exact. (2) TTS Talker GGUF chargeable mais audio e2e PAS validé (=JNI app). (3) generate() = prompt brut, app doit appliquer template chat + reasoning off. (4) STT inchangé ORT-QAIRT. (5) 30B/35B OOM. NON figé prefill>55 (HVX qf32 3-5sem).