山榄，乔木或灌木，高可达40米，但通常较小；
树皮褐色；
小枝圆柱形，具棱，直径2-6毫米，幼时被锈色绢毛或绒毛，后变无毛。
叶于枝上散生，膜质、坚纸质或革质，圆形、倒卵形、倒卵状长圆形、卵形、披针形或线形，长6-24厘米，宽1.5-15厘米，先端圆、钝、急尖或渐尖，基部狭或宽楔形，下延至叶柄，边缘有时波状，略背卷，上面具光泽，无毛，下面初时被锈色或带黑色绒毛或绢毛，后变无毛，中脉在上面微凸起，下面凸起，侧脉7-18对，成50-60度上升，上面明显，下面凸起，近叶缘弧曲连结，网脉疏离，明显；
叶柄长0.5-5厘米，上面平坦，被锈色、带黑色或带白色绒毛或绢毛，或无毛。
花雌性或两性，绿色或白色，数朵成簇腋生，5或6数，两性花较雌花大，花梗细长或较短，长2-10毫米，被锈色或带白色绒毛；
花萼裂片5（6），圆形或阔卵形，长2-3毫米，宽2-3毫米，先端钝，外面被带白色、带黄色或锈色绒毛，内面无毛，边缘膜质，具缘毛或流苏；
花冠钟状，长3-5毫米，裂片5，阔卵形或长圆形，长1.5-2毫米，宽1.5-2.5毫米，先端圆；
能育雄蕊长2.5-3.5毫米，着生于花冠中部稍下，有时无或未发育，花丝丝状，长2-3毫米，花药卵球形或长圆形，先端钝，侧向或外向开裂；
退化雄蕊披针形或三角形，具三齿、尾状渐尖或具芒，有时无或未发育；
子房圆锥形或倒卵圆形，长约1毫米，先端截形，被锈色粗毛，5-10室，花柱圆锥形，长1.5-Z毫米，5棱，柱头头状。
果新鲜时白色、黄色、红色或天蓝色，倒卵形或球形，长1-1.5厘米，宽1-1.5厘米，果皮膜质，无毛；
种子1-5枚，斜纺锤形，长8-12毫米，宽2-3.5毫米，两端钝，黄色，具光泽，疤痕狭椭圆形，宽约1毫米，带白色，胚乳丰富，子叶叶状，胚根圆柱形，长约1毫米，伸出。
果期10-12月。
