Jeremy Roenick eta Jiri Dopyaren erosketa 2001eko udan gertatu zen eta horregatik Langkow Philadelphia-ko jokalari berezi bat bihurtu zen. Phoenix Coyotes taldeak kontratatu zuen 2002ko NHL Drafteko bigarren itzulian (Dan Sprang) eta 2003ko lehen itzulian.
Jeff Carterrek deitu du. Kontratu bat adostu ezinik, Langkow eta Coyotes arbitrajora joan ziren eta bi urteko kontratua eman zioten, 4,2 milioi dolarreko balioa zuena. Berehala eragin handia izan zuen Phoenix-ekin, bere lehenengo trikimailua egin zuen Washington Capitals-en aurkako 5 eta 2ko garaipenean Coyotes-en hasierako partidan. 2001-02 denboraldia 62 punturekin amaitu zuen taldearen lider gisa. 2002-03 urtean 52 puntura jaitsi zen, baina bere karrerako 100. gola sartu zuen bere karrerako 500. partidan 2002ko abenduaren 30ean, Edmonton Oilers taldearen aurkako 4-3ko luzapenean. Taldearen bigarren sailkatu zen, 52 punturekin, eta Coyotesen ordezko kapitaina izan zen 2003-04 denboraldian.