L'acquisizione di Jeremy Roenick e Jiri Dopita da parte dei Flyers nell'estate del 2001 ha lasciato Langkow, un libero agente con restrizioni, come l'uomo strano di Filadelfia. È stato ceduto ai Phoenix Coyotes in cambio di una scelta di secondo turno nel Draft NHL 2002 (Dan Sprang) e una scelta di primo turno nel 2003.
(Jeff Carter). Incapace di concordare un contratto, Langkow e i Coyotes andarono all'arbitrato dove gli venne assegnato un contratto di due anni del valore di 4,2 milioni di dollari. Ha avuto un impatto immediato con Phoenix, segnando il suo primo hat-trick in carriera in una vittoria di 5 a 2 sui Washington Capitals nell'apertura casalinga dei Coyotes. Ha terminato la stagione 2001-02 come leader della squadra con 62 punti. Tornò a 52 punti nel 2002-03, ma segnò il suo 100° gol in carriera nella sua 500° partita in carriera il 30 dicembre 2002, una vittoria in overtime di 4-3 contro gli Edmonton Oilers. Finì secondo nella squadra con 52 punti, e servì come capitano alternativo per i Coyotes durante la stagione 2003-04.