Chaque saut en avant majeur de la puissance de calcul s’est accompagné ailleurs d’un goulet d’étranglement dû aux exigences changeantes des nouvelles charges de travail. Dans le domaine de la GenAI, on appelle l’un de ces goulets d’étranglement le « memory wall ». Les entreprises désireuses de mettre à profit les grands modèles de langage découvrent que leurs solutions de mémoire et de stockage ne peuvent faire face aux énormes volumes de données qu’exigent la formation et le déploiement des LLM. Cependant, des stratégies peuvent être mises en place pour franchir le memory wall.