山麦冬的一些标本不具走茎，须作进一步观察。
山麦冬的根稍粗，直径1-2毫米，有时分枝多，近末端处常膨大成矩圆形、椭圆形或纺缍形的肉质小块根。
山麦冬的花被片矩圆形、矩圆状披针形，长4-5毫米，先端钝圆，淡紫色或淡蓝色。
山麦冬的总状花序长6-15(-20)厘米，具多数花，通常2-5朵簇生于苞片腋内。