La Chiesa di San Silvestro deve la sua realizzazione agli abitanti del Castello di Collebrincioni, che contribuirono così alla fondazione della città nel XIII secolo. Tra il XV e il XVI secolo risentì dell'influenza della famiglia Branconio, che la valorizzò con opere di Francesco da Montereale, Raffaello e Giulio Cesare Bedeschini. Nel 1902 è stata dichiarata "Monumento Nazionale"; danneggiata dal terremoto del 2009, è attualmente inagibile. Nel 2014 è stato ultimato il restauro della facciata, mentre nel 2016 è partita la ricostruzione vera e propria dell'edificio. La chiesa è posta a coronamento dell'omonima piazzetta caratterizzata dalla presenza di numerose residenze dei Branconio. La facciata, preceduta da scalinata, è datata 1350 e si presenta rivestita in pietra bianca e rossa, divisa orizzontalmente da cornice marcapiano e caratterizzata da un portale romanico con lunetta raffigurante l'Agnus Dei e da un rosone gotico. A lato della navata principale, la torre campanaria risalente a tardo Ottocento. Sulle pareti interne si conservano frammenti di affreschi trecenteschi e quattrocenteschi attribuiti al pittore tardo-gotico noto come Maestro di Beffi. In fondo alla navata di sinistra è la cinquecentesca Cappella Branconio, un tempo impreziosita dalla Visitazione di Raffaello, commissionata nel 1517 da Giovan Battista Branconio, oggi esposta al Museo del Prado di Madrid.