Au cours de la même année 1122, Abélard fonde un ermitage, près de Nogent, dans le vallon de l'Ardusson, affluent de la Seine, abrité sous une colline boisée, le mont Limars. C'est cet oratoire dédié initialement à saint Denis, qu'Héloïse consacrera en 1130 au Paraclet en souvenir de la consolation que son époux y avait trouvé et par allusion à leurs échanges secrets sur la Sainte Trinité. Aussitôt une foule d'étudiants, fils de famille séduits par le retour à la nature, l'y rejoignent et s'installent dans des cabanes. Ils se font maçons pour aménager le dortoir de leur maître de quarante-trois ans et pourvoient à tous ses besoins matériels. Plus qu'une école, une vie communautaire sans règle monastique, laïque, s'organise.
Le projet d'université aux champs est critiqué par les prédicateurs cisterciens et prémontrés comme un lieu où l'enseignement de la foi est abandonné au profit de celui de la raison et en 1127 Abélard, de nouveau menacé, doit y mettre un terme. Il retourne dans sa patrie, où un poste d'abbé l'attend à Saint-Gildas de Rhuys.
Son exercice, qui dure jusqu'en 1133, se passe très mal. Un conflit ouvert avec les moines, pour lesquels le rôle d'un abbé est de mettre sa fortune au service de l'établissement et qui en l'absence d'une telle fortune se voient obligés de mener une vie commune pour survivre, dégénère en une tentative d'assassinat dirigée contre lui. Abailard doit se réfugier dans les communs.
Rejeté partout dans le royaume, ainsi que dans sa patrie d'origine, la Bretagne, il envisage de s'enfuir en Al Andalus, région qu'il a visitée vingt ans plus tôt et où il espère pouvoir profiter de la tolérance accordée aux dhimmi, quand Héloïse, elle aussi en butte aux tribulations et chassée avec ses sœurs du monastère d'Argenteuil par Suger, se tourne vers son époux légitime et lui demande assistance.
Il ne possède en propre que le terrain qui lui a été cédé au bord de l'Ardusson et lui propose de relever son ermitage. En 1132, il écrit Histoire de mes malheurs[34], récit autobiographique dont l'objectif est d'émouvoir et recueillir des dons qui iront à l'entreprise de sa femme provisoirement réfugiée à l'abbaye Notre-Dame d'Yerres.
En 1136, Étienne de Garlande, de nouveau revenu en faveur à la cour de Louis le Gros après avoir une avant-dernière fois, en 1127, connu une période de disgrâce, retrouve son titre de doyen de l'abbaye de Sainte-Geneviève et y rappelle son protégé. Abélard y réédite l'expérience de 1110. Il y connaît un succès encore plus grand et passe dès lors pour l'un des philosophes les plus importants de sa génération. Son école est fréquentée par plusieurs hommes célèbres et devient un centre de formation des maîtres. Son étudiant Robert de Melun est rejoint par des auditeurs de toutes les nations, tels que Jean de Salisbury, Pierre Lombard, Gilbert de la Porrée, ou le futur pape Célestin II.
Depuis quelques années, Guillaume de Saint-Thierry, brillant rival mais néanmoins admirateur d'Abélard qui était présent au concile de Soissons, fait circuler des textes qui veulent alerter l'Église contre le péril novateur. Il adresse à Geoffroy, évêque de Chartres et ami d'Abélard devant servir d'intermédiaire, la réfutation de treize propositions relatives aux effets de la Grâce et du Saint-Esprit ou au péché qu'il a relevées dans la Theologia Scholarium[35], puis alerte Bernard de Clairvaux par lettre. Abélard répond en offrant une disputation.
Il est convenu qu'elle se tiendra au cours du concile de Sens[36], le lundi 26 mai 1140 . Répétition un siècle plus tard de l'affaire des hérétiques d'Orléans, c'est en fait un nouveau procès qui attend Abélard, un procès sous influence organisé à l'occasion d'un déplacement du roi, où se joue, à travers la question de la place des clercs dans l'Église, le conflit[note 11],[37] entre thibaldiens, protecteurs d'Héloïse et Abélard, et capétiens, conflit qui dégénère deux ans et huit mois plus tard par le massacre de Vitry perpétré par les soldats de Louis VII[38].
Comme dans l'affaire de 1121, la disputation est biaisée par le zèle de Bernard de Clairvaux[note 12]. Pour éviter les incidents qui ont alors failli faire échouer le traquenard, celui-ci obtient qu'une condamnation soit prononcée par les évêques, réunis à huis clos pour un banquet, dans la nuit du dimanche 25, veille du jour prévu. Ses adversaires affirmeront que c'est à force de vin[39] que la condamnation a été obtenue. L'argument de la sentence est la sauvegarde de la tradition[39]. Le lendemain, l'accusateur Bernard de Clairvaux prend la parole pour exiger sans débat la repentance d'Abélard. En assurant celui-ci du contraire[40], il insinue la menace du bûcher, supplice inauguré un siècle plus tôt. Abélard, qui est assisté par Arnaud de Brescia, a cette fois l'intelligence de ne pas argumenter. Il déclare qu'il conteste la procédure et veut faire appel. Profitant de la faveur de la foule, il s'échappe et évite un second autodafé.
Tombeau d'Abélard[41] érigé en 1142 au prieuré clunisien de Saint-Marcel-lès-Chalon, vidé début novembre 1144 et sécularisé le 18 octobre 1792 , tel qu'il apparaissait peu avant son démontage en mars 1801.
Clivant un peu plus l'Église comme le redoutait l'évêque de Chartres Geoffroi et comme il arrivera lors des attaques contre Thomas d'Aquin et lors de la condamnation de Galilée, le scandale est proportionnel à la notoriété de l'accusé, immense. Le parti de la sauvegarde des traditions s'est insurgé contre celui du progrès de la raison dans la Foi. Le condamné décide de passer par Héloïse pour protester publiquement[39] de sa bonne foi. En avril 1141 , sous la forme d'une lettre adressée à l'abbesse du Paraclet, il écrit pour sa défense une profession de foi[42], en vain. Un rescrit signé du pape Innocent II, simple formalité de la Curie, confirme cette seconde condamnation d'Abélard le 18 juillet 1141 .
En se rendant à Rome pour faire appel de sa seconde condamnation, Abélard fait étape au prieuré Saint-Marcel, une ancienne abbaye située dans les environs de Chalon-sur-Saône. Malade et fatigué, il y prolonge son séjour jusqu'à ce que Pierre le Vénérable, supérieur de Cluny, lui offre l’hospitalité au siège de l'ordre. Pierre le Vénérable y organise une rencontre de réconciliation avec Bernard de Clairvaux. Abélard, vieillard diminué, est traité avec les plus grands égards, mais il souffre d'un certain diogénisme, caractéristique de l'avancement dans la sénilité. Il lui arrive, entre de longues périodes de silence, de s'enflammer de nouveau et de montrer la puissance d'un génie qui semble alors intact.
Abélard retourne au prieuré Saint-Marcel soigner ce qui est décrit comme une psore. C'est là qu'âgé de soixante-deux ou soixante-trois ans, il meurt le 21 avril 1142 . Ses frères lui dressent dans l'abbatiale un tombeau monumental.