Généré le 16/10/2026 10:31

Diagnostic & correctif — Latence de réponse vocale > 5 secondes (16/10/2026)

Demande

Raphaël, en appel vocal avec Jarvis (mode "robuste", log live_session.log ligne 376294) : « je trouve que y a une petite latence, à peu près de cinq secondes entre le moment où j'ai fini ma phrase et le moment où tu réponds [...] je voudrais que tu vérifies si c'est ce délai-là qui est programmé à peu près cinq secondes ».

Résultat : ce n'est PAS un délai programmé, c'est la somme de 3 étapes séquentielles — et l'une d'elles est très au-dessus de sa cible documentée

Le tour de parole en mode "robuste" (le mode actif par défaut, active_voice_mode = "robuste") exécute strictement en série, sans aucun recouvrement : transcription (STT) → cerveau texte (brain) → synthèse vocale COMPLÈTE (TTS) → début de lecture audio. Aucun délai fixe n'existe dans le code (le VAD côté client ne tranche qu'après 600-1100 ms de silence, cf. public/app.js:208-209 — ce n'est pas la source).

J'ai mesuré en conditions réelles, sur cette machine, à l'instant du diagnostic :

Étape Mesuré aujourd'hui Cible documentée dans le code Verdict
Cerveau rapide (Gemini 3.5 Flash Lite, "Jarvis Brain Flash") 6.4s / 6.6s / 12.4s (3 essais) "~1.1s" (commentaire du 30/09/2026) 🔴 Coupable principal
Synthèse vocale (edge_tts, réponse ~20s de parole) 1.96s synthèse complète (premier chunk disponible à 0.72s) — 🟡 Contributeur secondaire en mode robuste
Transcription (ElevenLabs Scribe v2 / repli Google STT) Pas de délai anormal observé dans les logs — 🟢 Non suspecté

Le seul appel au cerveau rapide dépassait déjà, à lui seul, les "5 secondes" signalées — avant même de compter la transcription et la synthèse vocale.

Cause racine isolée précisément

call_ai_brain() (mode Dialogue Rapide, server.py) appelle gemini_key_pool.generate_text(), qui route obligatoirement chaque appel via un tunnel SOCKS5 local relayé par Cloudflare WARP (resolve_live_proxy() dans gemini_key_pool.py), pour contourner un blocage géographique réel de Google sur l'API Gemini depuis la Guadeloupe :

ClientError: 400 FAILED_PRECONDITION — "User location is not supported for the API use."

(vérifié en désactivant le proxy : échec immédiat en 1.2s avec cette erreur — donc le tunnel est bien nécessaire, pas un bug à supprimer).

J'ai isolé où passait le temps, étape par étape :

  1. Requête HTTP triviale (google.com/generate_204) via le même tunnel : 1.1-1.3s (contre 0.46s en direct) → le tunnel lui-même n'ajoute que ~0.6-0.8s, pas 5s.
  2. Appel SDK google-genai complet via le tunnel : 5.5-6.6s pour une question triviale à une phrase.
  3. Requête REST brute (sans SDK) vers generativelanguage.googleapis.com via le même tunnel : 4.1-9.5s — élimine le SDK comme cause.
  4. Même requête avec une connexion HTTP persistante réutilisée (élimine le handshake TLS/SOCKS répété) : toujours 5.9-6.6s — élimine aussi le handshake comme cause.

Conclusion : ni le tunnel en lui-même, ni le SDK, ni le handshake TLS/SOCKS répété n'expliquent le délai. C'est l'API Gemini elle-même qui répond lentement (4 à 12s) spécifiquement sur cette sortie réseau (IP de sortie WARP), très probablement parce que Google applique un traitement différencié (priorité réseau plus basse, voire throttling) au trafic API identifié comme venant d'une IP de proxy/VPN anonyme — un phénomène distinct et sans lien avec le diagnostic DIAGNOSTIC_RALENTISSEMENTS_TUNNEL_VOCAL_CAUSE_LOCALE_20260928_22H.md (qui concernait le tunnel WireGuard→VPS OVH Roubaix pour la voix Live, une infrastructure différente de ce tunnel WARP pour les appels texte).

Correctif appliqué

Dans call_ai_brain() (JARVIS_LIVE_VOICE/server.py, mode Dialogue Rapide) :
- L'appel Gemini est maintenant borné à 2 secondes (asyncio.wait_for) au lieu d'attendre sans limite.
- En cas de dépassement (tunnel WARP dégradé, comme mesuré aujourd'hui) ou d'erreur, repli immédiat sur call_openrouter_api_direct() — une fonction déjà existante dans le code, qui appelle OpenRouter en direct sans aucun tunnel (pas de blocage géographique sur cette route). Mesuré à l'instant : 1.1-2.0s, conforme à sa latence documentée ("1.5-3s").

Effet attendu : latence du cerveau bornée à ~2s (cas sain) à ~4s (cas dégradé, 2s de timeout + ~2s de repli), contre 6 à 12s mesurés avant correctif aujourd'hui. Combiné à la synthèse vocale (~2s), le tour complet devrait désormais tomber sous les 5 secondes même quand le tunnel WARP est dégradé, au lieu de les dépasser systématiquement.

Limite connue acceptée : le repli OpenRouter ne reconnaît pas les balises [DELEGUER: ...] / [LIRE_FICHIER: ...] (il utilise son propre prompt système, plus simple). Sur le tour exceptionnel où ce repli se déclenche, Jarvis répond vite mais ne peut pas déclencher une délégation de mission ce tour précis — un compromis jugé raisonnable face à une attente de 6-12s.

Non appliqué : statut du déploiement

Le correctif est écrit sur disque mais PAS ENCORE actif : un appel vocal réel était en cours sur le serveur au moment du diagnostic (live_session.log montrait des événements toutes les secondes au moment de vérifier, dont une reprise de session à 10:29:34). Redémarrer le serveur maintenant aurait coupé cet appel. Le serveur tourne sous supervisor.py (PID 8920) qui relance automatiquement uvicorn (PID 6832 actuellement) en cas d'arrêt — un simple arrêt ciblé de ce PID exact, en dehors d'un appel actif, suffira à charger le correctif.

Piste d'optimisation supplémentaire identifiée, non appliquée (décision à repasser par Raphaël)

Le mode "robuste" synthétise la réponse ENTIÈRE (edge_tts) avant de diffuser le premier octet audio — un choix délibéré et validé le 29/09/2026 pour éviter de perdre un rejeu en cas d'interruption (voir commentaire server.py ~ligne 5890-5896 et ÉTUDE_FAISABILITE_MODE_VOCAL_TOUR_PAR_TOUR_ROBUSTE_20260929.md). Mesuré aujourd'hui : le premier chunk audio serait disponible à 0.72s si diffusé en flux, contre 1.96s pour la synthèse complète — un gain supplémentaire possible d'environ 1 à 1.5s sur les réponses longues, mais cela reviendrait à défaire un compromis que Raphaël a lui-même validé en connaissance de cause. Je ne l'ai pas modifié ; à trancher explicitement si le gain combiné avec le correctif ci-dessus ne suffit pas.