山西黄芩，一年生草本；
根茎细，横行，在节上向下生出纤维状须根及匍枝。
茎直立，高14-20厘米，粗1毫米，四棱形，具槽，沿棱上有极稀疏的疏柔毛，不分枝，中部节间长3.8-4.2厘米。
叶具柄，柄长1.5-7毫米，腹平背凸，被疏柔毛；
叶片薄纸质，心脏形，长0.7-1.3厘米，宽0.8-1.2厘米，先端钝或锐尖，基部浅心形，两侧具4-5对圆齿状锯齿，上面绿色，下面较淡，两面被疏柔毛，侧脉2对，与中脉在上面不明显下面显著。
花单生于茎上部叶腋中；
花梗长3毫米，被疏柔毛，近基部有成对长不及0.5毫米的针状小苞片。
花萼开花时长3毫米，被小疏柔毛，盾片微小，高约0.3毫米。
花冠浅紫色，长9-10毫米，外面被微柔毛，内面仅于唇片微被疏柔毛；
冠筒基部前方不膨大，微弯，宽1.5毫米，向上渐宽，至喉部宽3.5毫米；
冠檐2唇形，上唇短，直伸，微凹，下唇中裂片向上伸展，梯形，长3.5毫米，宽5毫米，先端微凹，2侧裂片卵圆形，略等于上唇片。
雄蕊4，前对较长，微露出，具能育半药，退化半药不明显，后对较短，内藏，具全药，药室裂口具髯毛；
花丝扁平，前对内侧后对两侧下部被小疏柔毛。
花柱细长，先端锐尖，微裂。
花盘厚，扁圆形，前方微微隆起，后方延伸成0.2毫米的子房柄。
子房4裂，裂片等大。
花期5-6月。