Une partie de ce territoire, qui était autrefois une ramification de la paroisse de Saint-Grégoire-le-Grand, se précise le 13 juillet 1849 et portera désormais le nom de Saint-Célestin. Comme les routes ne sont guère carrossables et qu’il est difficile de parcourir des distances qui peuvent atteindre jusqu’à 8 kilomètres afin d’assister aux offices religieux à Saint-Grégoire-le-Grand, la nouvelle paroisse facilitera les déplacements. L’érection canonique est signée le 4 juillet 1850 par l’Archevêque de Québec, Mgr Flavien Turgeon, alors que le lieutenant-gouverneur, Lord Elgin, décide de l’érection civile le 2 novembre. La paroisse de Saint-Célestin doit son nom au Pape Célestin 1er, qui vécut au cinquième siècle.

La paroisse de Saint-Célestin a connu, au cours de son histoire, des heures de gloire par la construction d’une « Tour des Martyrs » où étaient conservées des milliers de reliques que Mgr Calixte Marquis a ramenées de plusieurs voyages. Ce lieu de pèlerinage devient un sanctuaire national, le seul sanctuaire au monde dédié au culte des Saintes Reliques. Les pèlerins de toutes les religions du Québec, du Canada et même des États-Unis accouraient pour vénérer les objets sacrés durant plus de soixante ans. Vous pouvez encore vénérer quelques reliques qui se trouvent dans l’église présentement.
Nos ancêtres ont vécu aussi de terribles épreuves, deux de leurs églises ont été détruites par le feu. Finalement, la construction de la 3e église telle qu’on la connaît aujourd’hui débutera au cours de l’année 1967 et comme de nombreux contretemps surviennent en cours de route, Évêque de Nicolet, Mgr Martin procédera à sa bénédiction solennelle le 20 septembre 1970.