Il convento si trova lungo il viale Atlantico. I frati cappuccini che fondarono il convento vissero 43 anni in una posizione più alta, vicino alla Collina delle Guardie. Si lamentavano di essere troppo lontani dalla città. Annecchini, uno storico locale, dice che i padri cappuccini stabilirono il convento e la chiesa nella posizione attuale con il titolo di Santa Maria della Santita nel 1595 sotto Papa Clemente VIII. Giovanni Mariella acquistò il nuovo sito (con atto di Gironimo, Grasso, 9 maggio 1595), per 460 ducati. Il terreno era lungo circa sette tomoli, con all'interno una piccola fabbrica. Fu chiamato Santa Croce dal nome di una chiesa vicina. Il sito è oggi sede del Tempio di Cerere, che Alfonso De Blasio Benevento (1597-1656) avrebbe costruito sull'ex area del convento. I resti della scala che portava allingresso al luogo sacro erano ancora visibili nel 1600. Racconta anche che il lunedì in Albis si usciva da Porta Somma, uno dei porti, per solennizzare la festa di San Felice e pregare per la fertilità e quindi i raccolti. L'edificio fu poi utilizzato come carcere giudiziario. Questa funzione fu svolta fino agli anni '70 quando il carcere fu trasferito nel quartiere di Capodimonte. Fu ristrutturato e oggi ospita gli uffici della Soprintendenza ai Beni Archeologici.