St-Apollinaire avait d’abord reçu son érection canonique le 23 novembre 1853 après avoir eu le droit de construire une église et d’y faire venir un curé. La construction a débuté à l’été 1855 pour se terminer à l’été 1858. La bénédiction officielle a eu lieu le 20 septembre 1858. Le premier curé fut Thomas Aubert de Gaspé, l’arrière-petit-fils d’Angélique le Gardeur de Gaspé. Par la suite, le presbytère sera prêt en septembre 1857.