Després de ser derrotat en la rebel·lió, Caldas, tement represàlies, va fugir a Popayán, però trobant que havia estat sobrepassat per les tropes reials comandades pel futur virrei Juan Sámano, va anar a la província d'Antioquia. Antioquia havia declarat la independència com l'"Estat d'Antioquia" o l'"Estat Lliure i Sobirà d'Antioquia". L'estat d'Antioquia havia designat a Juan del Corral com a dictador, i del Corral va donar la benvinguda a Caldas i el va nomenar per crear una escola militar i com a director de les fàbriques de rifles i enginyer general, així com donar-li el rang de coronel. Com a enginyer, Caldas va ser el responsable de la construcció d'edificis, molins de pols i fàbriques d'armes, així com de la mineria. També va ensenyar a l'Acadèmia d'Enginyers de Medellín, el 1814. Entre 1813 i 1814, es va encarregar de les fortificacions al llarg del riu Cauca i la instal·lació d'una fàbrica de fusells i pólvora. A finals de 1814, Nariño havia estat derrotat i arrestat per la corona espanyola, i Bolívar i el seu exèrcit havien forçat la submissió de Cundinamarca a les Províncies Unides. El Govern General federalista, que s'havia establert a Santafé, amb les creixents preocupacions sobre la possibilitat d'una reconquesta espanyola
Després de l'inici de la campanya de Morillo, va cridar Caldas per a designar-lo amb la creació d'una Escola Militar similar, i per a construir ponts, trinxeres i fortificacions al voltant de la ciutat. Va ser enviat a l'exèrcit del nord i a fortificar camins a Quindío.