Nació en Cuevas de San Marcos (Málaga), el 12 de octubre de 1882. Hijo de José y Ana. Fue cura de Alozaina, coadjutor de Santo Domingo de Málaga, y párroco de San Pedro, y Virgen del Carmen de la capital. Estaba entregado a los pobres del Barrio y vivía en un piso con su sobrina Ana Compaña Ruano, pero ésta tuvo que irse al pueblo con sus padres y el se alojó en una pensión, porque la situación se puso tan mal que llegaron a quemarle el piso.

Fue descubierto por unos milicianos alojados en su mismo Hotel Perla, de Calle Martínez. —Ese es el cura de la iglesia del Carmen ¿Vamos a por él? Y levantándose le rodearon:
—¿Es Usted el cura del Carmen?
—Sí, ¿Qué es lo que queréis?
—Venga usted con nosotros ahora mismo.
Y lo llevaron al Arroyo de las Cañas, donde le obligaron a quitarse el crucifijo de plata que llevaba regalado por sus padres el día de su primera Misa y le ordenaron que lo pisara, pero él se negó y alzándolo dijo: "Viva Cristo Rey!". Ante esto, se lo quitaron con furia y metiéndoselo por la boca le obligaron a tragárselo. Después lo pusieron de rodillas y lo fusilaron. En la parroquia de El Carmen había una lápida que decía: "Don José Compaña Herrero, Presbítero. Mártír de la religión". Y en su pueblo natal existe una calle con su nombre: "Calle de don José Compaña Herrero"