El árbol del olivo es una planta perenne de apariencia ancha y corta altura (entre 8 y a 15 metros). Por lo general, presenta un único tronco retorcido con varios tallos.

Las hojas son perennes, puntiagudas y estrechas y crecen a lo largo de tallos delgados, dispuestas opuestas una con otra. Pueden medir de 1 a 3 centímetros de ancho y de 4 a 10 centímetros de largo. La parte superior es color verde y la inferior muestra un tono verde plateado, un poco grisáceo. Viven alrededor de 2 a 3 años y se caen en la primavera para dar paso a nuevas hojas.

El olivo es un árbol de fácil arraigo. Al ser su zona de confort los suelos que no producen encharcamientos y tener una alta facilidad para ramificar sus raíces puede llegar a ocupar un espacio comparable a la copa de su árbol. Y es que se desarrolla en suelos de más de 1,20 metros de profundidad; suelos bien aireados en los que la raíz pueda crecer con facilidad.