糙叶薹草，根状茎具地下匍匐茎。
秆常2-3株簇生于匍匐茎节上，高30-60厘米，较细，三棱形，平滑，上端稍粗糙，基部具红褐色无叶片的鞘，老叶鞘有时稍细裂成网状。
叶短于秆或上面的稍长于秆，宽2-3毫米，质坚挺，中间具沟或边缘稍内卷，边缘粗糙，具较长的叶鞘。
苞片下面的叶状，长于花序，无苞鞘，上面的近鳞片状。
小穗3-5个，上端的2-3个小穗为雄小穗，间距短，狭圆柱形，长1-3.5厘米，具很短的柄或近于无柄；
其余1-2个为雌小穗，间距较长些，长圆形或近卵形，长1.5-2厘米，宽约1厘米，具较密生的10余朵花，通常具短柄，或上面的近于无柄。
雄花鳞片倒披针形，长约8毫米，顶端急尖，淡褐色；
雌花鳞片宽卵形，长5-6毫米，顶端渐尖成短尖，膜质，棕色，中间色淡，具3条脉。
果囊斜展，长于鳞片，长圆状椭圆形，鼓胀三棱形，长6-8.5毫米，近木栓质，棕色，无毛，具微凹的多条脉，基部急缩成宽钝形，顶端急狭成短而稍宽的喙，喙口呈半月形微凹，具两短齿。
小坚果紧密地为果囊所包裹，长圆形或狭长圆形，钝三棱形，长4-5.5毫米，棕色；
花柱短，基部稍增粗，柱头3个。
花果期4-7月。
