小黄花鸢尾，多年生草本，植株基部有黄褐色或棕色的叶鞘残留的纤维。
根状茎细长，丝状，横走、坚韧，黄褐色，节处膨大，生有纤细、多分枝的须根。
叶狭条形，长5-16 厘米，宽2-7毫米，顶端渐尖，有3-5条纵脉，无明显的中脉。
花茎细弱，高7-15厘米；
苞片 2枚，膜质，披针形，长4-5厘米，宽5-10毫米，顶端渐尖或短渐尖，中脉明显，内包含有1朵花；
花黄色，直径2.5-3厘米；
花梗细，长1.5-2厘米；
花被管丝状，顶端膨大，长1.5-2厘米，外花被裂片倒卵形，长约2.2厘米，宽约8毫米，爪部狭楔形，无附属物，内花被裂片直立，倒披针形，长约1.5厘米，宽3-4毫米，顶端钝，微凹；
雄蕊长约1厘米，花药黄褐色；
花柱分枝扁平，长约1.5厘米，宽约3毫米，顶端裂片长三角形，边缘有疏牙齿，子房纺锤形，长约1厘米，直径约2-3毫米。
蒴果近球形。
花期5月，果期6-7月。
