Si Carlin namundag sa Manhattan, an ikaduwang aki sunod sa matuang si Patrick na nagin parasurat man, sa magurang niyang si Patrick Carlin asin an agom kaini na si Mary Beary, sarong sekretarya.  An saiyang pamilya gikan sa dugong Irish asin pinadakula siyang katoliko Romano. Kan siya edad pa sanang duwang bulan, an mama niya nagsuway sa ama niya. An maternal niyang lolohon, si Dennis Beary, sarong imigranteng Irish na nagtrabahong pulis sa Nweba York. Sarong maternal na lolahon niya man na imigrante natandaan niya nagngangaran O'Grady pero nagin Grady pag'abot nang Amerika. Sabi niya, "Hinulog sa dagat an "O" kan pasiring sinda igdi".