小叶碎米荠，多年生草本，高10-25厘米。
根状茎匍匐，生多数细长的须根。
茎通常单一，有时自基部抽出短的分枝，茎基部倾斜，上部直立，表面具沟棱和柔毛。
基生叶莲座状，有小叶6-11对，小叶小，顶生小叶掌状3-5浅裂，基部楔形，有小叶柄，侧生小叶近卵形，两边不等，上边缘通常全缘，下边缘1-2浅裂至半裂，小叶柄极短；
茎生叶2-3枚，叶柄长6-25毫米，有小叶6-10对，形与基生的相似，但稍大，通常无小叶柄，全部小叶两面均有柔毛。
总状花序顶生，花较多，花梗长约10毫米，有时有柔毛；
萼片长形或卵形，长约3毫米，边缘膜质，背面有柔毛，内轮萼片略囊状；
花瓣白色、粉红色或淡紫色，倒卵状楔形，长约10毫米，顶端微凹，基部楔形渐狭；
短雄蕊长约5毫米，长雄蕊长约6.5毫米，花丝扁平扩大，花药狭长卵形；
雌蕊柱状，微弯，花柱短，柱头浅裂。
成熟果实未见，幼果线形而扁，长约2厘米以上，宽约1.5毫米，两端略狭；
幼果果梗靠近果序轴，长6-14毫米。
花期4-8月，果期7月以后。
