Nel 1981, all'età di 23 anni, Crumpton divenne il più giovane tirocinante della sua classe alla CIA. Ha iniziato la sua carriera alla CIA nella divisione Africa in Liberia negli anni '80. Nel 1998-1999 è stato vice capo della Sezione Operazioni Terrorismo Internazionale dell'FBI, mentre era in prestito dalla CIA. Nel 1998 ha indagato sugli attentati di al Qaeda alle ambasciate americane in Kenya e Tanzania e sull'attacco del 2000 alla USS Cole.
al largo delle coste dello Yemen. E' stato coinvolto in Afghanistan fino al 2002, quando e' passato a compiti piu' tranquilli. È stato vice direttore del Centro antiterrorismo dal 1999 al 2001 e capo di una delle divisioni più segrete dell'agenzia, la Divisione Risorse Nazionali, dal 2003 al 2005. Come capo della Divisione Risorse Nazionali ha assunto l'attuale direttrice della CIA, Gina Haspel, come sua vice. È stato anche il capo della risposta segreta degli Stati Uniti in Afghanistan all'attacco dell'11 settembre 2001, ideando il rovesciamento dei talebani in 90 giorni. Ha lavorato per la CIA per un totale di 24 anni, ha ricoperto il ruolo di Coordinatore del Dipartimento di Stato per la lotta al terrorismo con il grado di ambasciatore a pieno titolo, e si è ritirato dal servizio governativo nel 2007.