Cette expression est apparue dans le courant du XIXe siècle : en raison de sa forme allongée, ce légume doit être bien enraciné dans la terre, afin de pouvoir pousser convenablement à la verticale pendant tout l’hiver. En s’inspirant de cette image, les jardiniers de l’époque utilisaient l’expression «faire le poireau» pour parler d’une personne immobile.
Elle s’est ensuite popularisée, notamment pour désigner les soldats chargés de monter la garde devant un bâtiment par exemple.