小叶橐吾，多年生草本。
根肉质，多数。
茎直立，高达100厘米，光滑，基部直径2-4毫米。
丛生叶和茎基部叶具柄，柄长达25厘米，细瘦，光滑，基部具窄鞘，叶片戟形或三角形，长1.7-3.5厘米，宽2-5.5厘米，先端钝或圆形，具短尖头，边缘反卷，具细而钝的齿，基部平截，偶有浅心形，两面光滑，叶脉掌状；
茎中上部叶2-4，具短柄或无柄，鞘膨大抱茎，叶片三角形至披针形，较小。
总状花序疏离，长8-15厘米；
苞片及小苞片线形，长5-20毫米；
花序梗细瘦，长0.5-5.5厘米，向上渐短；
头状花序3-6，辐射状；
总苞钟形，长10-13 毫米，宽至10毫米，总苞片7-10，2层，长圆形，宽2-3毫米，先端急尖，背部光滑，内层边缘膜质。
舌状花5-8，黄色，舌片长圆形，长12-20毫米，宽至5毫米，先端钝，管部长达10毫米；
管状花多数，长8-11毫米，管部细，长4-7毫米，檐部宽约2毫米，冠毛淡红色，长6-8毫米，比花冠短。
瘦果（未熟）光滑。