Madison Square Gardenera joateko bi leku daude. Lehen Garden-a, 1879tik 1890ra.
Bigarren lorategia, 1890tik 1925era. Lehenengoa, P. T. Barnum-i errentan emana, ez zuen teilaturik eta ez zen eguraldi txarrean erabiltzeko erosoa, beraz, 11 urteren buruan eraitsi zuten. Bigarrena Stanford White arkitektoak diseinatu zuen. Eraikin berria J. P. Morgan, Andrew Carnegie, P. T. Barnum, Darius Mills, James Stillman eta W. W. Astor biltzen zituen sindikatu batek eraiki zuen. White-k Beaux-Arts-eko egitura bat eman zien, moorerazko ukituarekin, besteak beste, Giraldaren ereduaren araberako minaretea bezalako dorrea, Sevillako katedraleko kanpandorrea <unk> 32 solairuko garaiera <unk> garai hartan hiriko bigarren eraikinik altuena <unk> Madison Square Park-en nagusi. Mundu osoko areto handienetako bat zen, 8.000 lagunentzako lekua eta beste milaka aretorako. 1.200 eserlekuko antzokia, 1.500 lagunentzako kontzertu-aretoa, hiriko jatetxe handiena eta teilatu-lorategi bat zituen. Eraikina 3 milioi dolar kostatu zen. Madison Square Garden II.a ez zen arrakastatsua izan, lehenengoa bezala, eta New York Life Insurance Company-k, hipoteka zeukanak, 1925ean eraistea erabaki zuen egoitza berri bat eraikitzeko bidea egiteko, Cass Gilbert-ek diseinatutako New York Life eraikina bihurtuko zena.