Kazeia
/
Kazeia-engine
3
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
110 Commits 1 Branch 0 Tags 217 MiB
Shell 100%
Go to file
Richard Loyer dbd4f3d944 chantier B STT #5 : Action 1 dev — patch QNN options pour la prod gelée 
Suite à l'analyse du dev (commit c9e1983) : le gain mesuré (-80% encoder,
-71% decoder/token) vient des options QNN ExecutionProvider, pas de la
migration C++. Donc le patch s'applique aussi à la prod Kotlin actuelle
sans dégeler la stack STT — 4 lignes Kotlin, réversible.

Livrables Action 1 (séparée de la décision migration) :

- dist/PATCH_QNN_PROD.md : explication + diff Kotlin + chiffres attendus
  (prod 820 ms -> ~560 ms = -32 % gratuit) + script bench audio Pierre

- dist/patches/whisper_hybrid_engine_qnn.diff : patch précis sur
  WhisperHybridEngine.kt (lignes 101, 109, 134 du fichier prod). Ajoute
  htp_performance_mode=burst + htp_arch=79 + enable_htp_fp16_precision=1
  + setOptimizationLevel(ALL_OPT) sur les 3 sites encOpts/decOpts.

- dist/patches/bench_qnn_before_after.kt : harness Android pour mesurer
  le gain réel sur audios Pierre. 3 runs/audio, médiane, RTF pondéré.
  Compare 2 builds app (avant patch / après patch) sur le même corpus.

Décision migration libkazeia_stt CONDITIONNEE à :
 1. Action 1 mesurée sur audio Pierre (gain réel patch QNN seul)
 2. A/B accuracy CER/WER lib unifiée vs prod patchée (in-app uniquement,
    pas mesurable standalone)

Bénéfice résiduel migration après patch QNN prod : ~110 ms total + 168 MB
RAM + code unifié. Reste valable mais beaucoup moins fort que les chiffres
initiaux. Le dev a raison de séparer les décisions.

Mémoire à mettre à jour : project_stt_qnn_options_win.
 		2026-06-01 09:42:27 +02:00
.claude Rapport R&D complet: synthese session, perf, cascade, #277, briques, reste a faire 2026-05-25 22:27:34 +02:00
dist chantier B STT #5 : Action 1 dev — patch QNN options pour la prod gelée 2026-06-01 09:42:27 +02:00
docs GDN chunkwise P1.2: VTCM state prefill=neutre, prouve compute-bound 3S2/tok -> gain=WY matmul (palier dur). oracle 28/28, pp98 2026-05-26 16:30:08 +02:00
eval eval: verdict (assisté, à valider) -> ship Qwen3.5-lmq4 2026-05-26 23:23:00 +02:00
ql@6e0edba837 ql: bump pour qwen3 dense IMROPE (ql:6e0edba) 2026-05-28 13:54:27 +02:00
.gitignore chantier B STT #2 : S2 + S3 livrés (stt_engine ORT QNN + JNI + façade Kotlin + doc) 2026-05-31 22:15:58 +02:00
CHANTIER_HMX_DENSE.md chantier dense-HMX #4: 0x2e décodé = AEE_ECONNRESET (reset watchdog CDSP), pas une corruption de valeurs 2026-05-27 19:20:28 +02:00
CLAUDE.md chantier B STT #2 : S2 + S3 livrés (stt_engine ORT QNN + JNI + façade Kotlin + doc) 2026-05-31 22:15:58 +02:00
RAPPORT_RD.md RAPPORT §7: piste kernel GDN fermee — GDN-compute != goulot prefill (fork ql) 2026-05-26 21:46:05 +02:00
c4.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
casc.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
casc2.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
casc3.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
cascade_test.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
cf.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
qcmp.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00
spk.sh Dist Kazeia-Engine: libs arm64+headers+JNI bridge+INTEGRATION/TTS doc; STT reste ORT 2026-05-24 21:55:01 +02:00