Un dedalo di vicoli, dalle mura ancora in pietra, con piccoli orti pensili, si dipana quasi a raggiera intorno alla piazzetta; ci perdiamo tra queste stradine silenziose fino ad incontrare, in posizione panoramica e isolata, la chiesa di Sant'Andrea con il suo massiccio campanile a vela, una delle più antiche di Gualdo Cattaneo. Ci appare con la sua semplice facciata in conci di arenaria, adagiata proprio a ridosso della cerchia muraria. Il portale presenta tracce di decorazione antica, probabilmente la facciata non era originariamente così spoglia come la vediamo oggi; l'interno è molto danneggiato e conserva in parte stucchi cinquecenteschi, frutto di un rifacimento rinascimentale.
Scendendo ancora incontriamo un edificio molto importante per la storia di Gualdo Cattaneo: la chiesa di Sant'Agostino, che aveva un tempo anche il rispettivo convento; voluta nel 1136 dai benedettini che la dedicarono all'Annunziata e a San Benedetto, passò nel 1258 ai monaci eremitani di Sant'Agostino che la restaurarono, dedicandola al fondatore del loro ordine; priore di questa comunità fu per un periodo proprio il beato Ugolino da Gualdo Cattaneo. La facciata della chiesa, con profilo a due spioventi, è in pietra arenaria e presenta un portale ogivale in pietra rosa e bianca con al centro scolpita la figura del protettore del comune, San Michele Arcangelo. Con uno sguardo attento potremo anche notare, murata nella parete laterale della chiesa, una pietra raffigurante un pesce, simbolo del Cristianesimo. L'imponente campanile, al cui interno è ricavata l'abside della chiesa, sorge su un'antica torre difensiva. Internamente la chiesa si sviluppa secondo un impianto a navata unica, conclusa da un'abside rettangolare; la copertura a capriate lignee con soprastanti travi e travicelli in legno e pianelle in cotto è di rifacimento.
L'edificio, purtroppo, risulta molto spoglio, presenta infatti soltanto alcuni frammenti di affreschi; la maggior parte della decorazione parietale andò perduta durante la pestilenza del 1620, era pratica comune, infatti, rivestire le pareti di calce viva per sanificare gli ambienti. Tra gli affreschi superstiti possiamo ammirare, in una piccola cappella laterale, una bellissima Crocefissione con santi realizzata nel 1482 da Nicolò di Liberatore, detto l'Alunno, pittore folignate del'400 che raffigurò in questa immagine il Beato Ugolino, la cui cella si trovava proprio in questa chiesa. La figura di Cristo è affiancata a destra dalla Vergine e da Sant'Agostino Vescovo, titolare della chiesa, alla sinistra da San Giovanni Apostolo e dal Beato Ugolino da Gualdo Cattaneo.
Ai piedi del crocifisso piangente vi è la Maddalena; nella parte superiore intorno al Cristo il pittore ha raffigurato, con il suo stile ricco di pathos devozionale, alcuni angioletti in lacrime nell'atto di raccogliere in calici il sangue di Gesù ed altri con il volto coperto per non vedere tanto strazio e dolore.
All'interno della chiesa vi sono anche alcune tele del ‘600 di notevole fattura: due dipinti di Andrea Polinori raffiguranti Santa Caterina d'Alessandria e Sant'Agostino; una Madonna del Rosario di Pier Paolo Sensini pittore tuderte e il Purgatorio di Francesco Providoni, pittore bolognese attivo in zona.