L'attuale chiesa è frutto della ricostruzione postbellica di quella del 1628, che sorgeva su una chiesetta sotterranea a navata unica, scandita da tre arcate. La volta è costituita da un masso granitico e nel pavimento si apre un pozzo. Sul lato sinistro dell'altare una scalinata conduce ad un'altra grotta che secondo la tradizione nascondeva il simulacro della Madonna della Cava. Storia del ritrovamento: Il culto risale all'epoca delle persecuzioni iconoclaste (726-730), quando l'imperatore Leone III l'Isaurico ordinò la distruzione di tutti i simulacri, molti dei quali furono nascosti. Secondo la tradizione, nel 1514, il Padre agostiniano Leonardo Savina ebbe la visione della Madonna, la quale gli indicò il posto in cui avrebbe trovato una sua effige e ordinò di edificare una chiesa. Subito vennero iniziati gli scavi nella cava di via XIX Luglio, già via dei Santi, e il 19 gennaio 1518, in seguito al crollo di un masso, venne scoperta la grotta che conservava il simulacro della Madonna divenuta Patrona della città.