小胡颓子，常绿直立小灌木，高约1米，无刺；
枝向上弯曲，锐角开展，幼枝密被褐色鳞片，老枝鳞片脱落，黑色，具细条纹，散生少数皮孔。
叶纸质或薄革质，窄椭圆形或披针形，长3-5.5厘米，宽0.8-1.4厘米，两端钝形或钝尖，全缘，上面幼时散生淡白色鳞片，成熟后脱落，干燥后淡褐色，下面银白色，密被鳞片，侧脉3-5对，与中脉开展成45度的角，两面均不甚明显；
叶柄较短，长3-5毫米，被黄褐色鳞片。
花银白色，外面被白色鳞片，下垂，常1-4花簇生叶腋短小枝上或枝顶端成伞形总状花序，花枝深褐色，长3毫米；
每花下面具一弯线状披针形苞片，质厚，褐色，早落；
花梗灰白色，长2 3毫米；
萼筒杯状钟形，微具4肋，长3-4毫米，在裂片下面略收缩，子房上先膨大后收缩，裂片椭圆状三角形，与萼筒等长，顶端钝形，内弯，内面疏生白色星状柔毛和鳞毛，包围子房的萼管纺锤形，长2毫米，被白色鳞片；
雄蕊的花丝极短，长约0.5毫米，花药长椭圆形，长1.1毫米；
花柱直立，纤细，无毛，稍超过雄蕊。
果实长椭圆形，长12毫米，直径4毫米，被锈色鳞片，果肉较薄；
果梗纤细，长4毫米，下弯。
花期11-12月，果期2-3月。