日本羊茅，多年生，具细弱根茎。
秆细弱，光滑，高30-75厘米，基部径0.5-1毫米，具2-3节。
叶鞘光滑，疏松裹茎，短于节间，顶生者长10-16厘米；
叶舌长约0.5毫米；
叶片扁平或呈折叠状，下面光滑无毛，上面粗糙或被细短毛，长7-15厘米，宽1-3毫米；
叶横切面具维管束5-7，厚壁组织束状排列，与维管束相对应，仅在下表皮内有，上表皮具稀疏的毛，无泡状细胞。
圆锥花序开展，金字塔形，长7-15厘米；
分枝单一或孪生，平展或稍下倾，光滑或微粗糙，基部主枝长4.5-9厘米，2/3或3/4以下裸露，顶端疏生1-3个小穗；
小穗淡绿色，长4-5.5毫米，通常含2-3 (4)小花；
颖片卵圆形，先端尖或钝，边缘膜质，第一颖长1-1.5毫米，具1脉，第二颖长1.5-2毫米，具3脉；
外稃背部平滑无毛，边缘狭膜质，顶端无芒，第一外稃长3.5-4毫米；
内稃近等长于外稃，顶端微凹，具2脊，脊与近顶端处具微小纤毛；
花药长约1.5毫米；
子房顶端具棕黄色毛。
颖果长圆形，长约2.5毫米。
花果期6-8月。
染色体2n＝28（Tateoka 1953）。
