Morgan murió en Roma, Italia, mientras dormía en 1913 a la edad de 75 años, dejando su fortuna y negocios a su hijo, John Pierpont "Jack" Morgan, Jr., y legando sus mansiones y grandes colecciones de libros a The Morgan Library & Museum en Nueva York.