灰岩黄芩的叶子草质，下部者变小，近圆形，长宽约1厘米，上部者较大，宽卵圆形，长1.6-2.5厘米，宽1.4-2.2厘米，先端钝或圆形，基部浅心脏形，边缘有圆齿状锯齿。
灰岩黄芩的花序顶生，长4.5-8厘米，总状花序，花对生，花梗长约3毫米，与序轴密被平展具节疏柔毛。
灰岩黄芩的原变种分布于云南西北部，生于海拔3100-3400米的石灰岩上高山栎丛及落叶松林中。
灰岩黄芩的根茎匍匐，增粗，径达1.5厘米。