Une nouvelle percée en IA pourrait permettre d'intégrer la version complète FSD V14 aux véhicules Tesla équipés du matériel HW3

Pour les propriétaires de véhicules Tesla équipés du HW3, l'attente des dernières versions du FSD s'est transformée en une longue pause. La version 12.6.4 du FSD a été la dernière mise à jour déployée sur l'ancien matériel de Tesla il y a environ 13 mois, et il s'agissait d'une mise à jour incrémentale au sein de la même version majeure.

À mesure que les réseaux neuronaux de bout en bout de Tesla sont devenus plus vastes et plus complexes, l'équipe d'IA a eu du mal à faire tenir les itérations FSD de pointe, telles que la v14, sur les anciens ordinateurs. L'entreprise a déclaré son intention de préparer une version FSD v14-lite pour les véhicules HW3 à l'été 2026, mais le développement du FSD a considérablement ralenti ces derniers mois en raison de la priorité donnée au Robotaxi et au FSD non supervisé.

Cela laisse peu de temps pour optimiser une version moderne pour les véhicules plus anciens. Une avancée récente de NVIDIA dans les grands modèles de langage (LLM) pourrait offrir une voie conceptuelle pour maintenir le HW3 très performant sans pour autant alléger le FSD.

Le goulot d'étranglement du HW3 : tout est une question de mémoire

Bien que le HW3 dispose d'une puissance de calcul brute inférieure à celle du matériel AI4 plus récent, la principale contrainte pour l'IA contemporaine est la mémoire.

L'exécution d'un grand réseau neuronal exige une mémoire de travail substantielle pour fonctionner en temps réel. Dans les LLM comme ChatGPT, cette mémoire de travail est le cache KV (Key-Value), qui stocke le contexte de la conversation afin que le modèle n'ait pas besoin de retraiter l'historique complet à chaque étape.

Le FSD de Tesla fonctionne de manière similaire, utilisant une mémoire spatio-temporelle pour maintenir le contexte au fil du temps. Par exemple, si un piéton passe derrière un camion de livraison stationné, la mémoire temporelle de la voiture garde en mémoire la présence du piéton, même lorsque les caméras perdent le contact visuel. À mesure que le FSD s'améliore, ce cache de mémoire temporelle s'étend, épuisant rapidement la mémoire vive limitée de l'ordinateur HW3.

La percée de la compression par 20 de NVIDIA

Comme l'a rapporté VentureBeat, des chercheurs de NVIDIA ont introduit une technique qui réduit l'empreinte mémoire du cache de travail d'un LLM par 20.

Il est crucial de noter que cela est réalisé sans modifier les poids du modèle.

La méthode, appelée KV Cache Transform Coding (KVTC), s'inspire de la compression multimédia classique comme le JPEG. Plutôt que de supprimer définitivement des informations, elle identifie les composants les plus critiques de la mémoire de travail et compresse le reste à la volée.

Historiquement, l'adaptation de modèles massifs sur du matériel limité nécessitait souvent de modifier le modèle de façon permanente par la « quantification » ou l'« élagage » (littéralement, la suppression de voies neuronales). Bien que cela permette d'économiser de l'espace, cela peut dégrader l'intelligence de l'IA.

L'approche de NVIDIA contourne ce compromis. En compressant agressivement la mémoire de travail pendant l'inférence, le LLM préserve son intelligence d'origine avec une perte de précision inférieure à 1 % tout en consommant une fraction de la mémoire matérielle.

Appliquer la méthode JPEG aux réseaux neuronaux

Bien que les travaux de NVIDIA ciblent les LLM textuels, les mathématiques et l'architecture sous-jacentes peuvent être adaptées à l'IA centrée sur la vision qui alimente une Tesla.

Si l'équipe d'ingénierie Autopilot de Tesla utilise une sparsification de mémoire dynamique ou un codage par transformation similaire pour la mémoire spatio-temporelle du FSD, l'impact sur le HW3 pourrait être significatif. En compressant fortement la « mémoire vidéo » des environnements proches du véhicule en temps réel, Tesla pourrait réduire considérablement la VRAM totale requise pour exécuter le logiciel.

L'avantage est que la libération de cache éliminerait le besoin de réduire le réseau neuronal central pour le faire tenir.

Au lieu de fournir une version v14-lite fortement élaguée qui supprime des millions de paramètres et diminue les capacités de conduite, Tesla pourrait proposer une version bien plus performante du modèle v14 pour le HW3. La voiture continuerait d'utiliser une logique de conduite avancée de bout en bout, en s'appuyant sur une mémoire temporelle hautement compressée, de type JPEG, pour rester dans les limites matérielles.

Presser le silicium

Le HW3 est une puce vieillissante, et à un moment donné, elle atteindra un plafond où elle ne pourra plus traiter les données assez rapidement pour satisfaire aux exigences de l'autonomie non supervisée.

Néanmoins, le KVTC de NVIDIA montre que l'industrie trouve des moyens d'optimiser l'inférence sans dépendre de puces plus grandes et plus coûteuses. Alors que Tesla s'efforce d'unifier sa flotte sur l'architecture v14, des techniques avancées de compression de mémoire comme celles-ci offrent un moyen d'extraire une capacité maximale du matériel existant jusqu'à ce que la mise à niveau du HW3 ait lieu.