대학교 시절 그는 레스토랑 재즈 밴드에서 연주하며 일했으며, 색소포니스트 Charlie Parker (찰리 파커)에게 막대한 영향을 받았습니다.
그는 1926년 노스 캐롤라이나에서 태어났는데, 종교적인 집안 분위기가 그가 영감을 얻고 음악의 길로 들어서는 데 영향을 주었습니다. 1938년에, 그는 아버지, 고모, 할아버지를 포함한 가족 몇 명을 갑자기 잃게 되었습니다. 따라서 그는 그에게 첫번째 알토 색소폰을 쥐어준 어머니의 손에서 자라게 되었습니다. 대학교 시절 그는 레스토랑 재즈 밴드에서 연주하며 일했으며, 색소포니스트 Charlie Parker (찰리 파커)에게 막대한 영향을 받았습니다. 1945년부터 1946년까지 진주만에서 군생활을 하는 동안 콜트레인은 음악가들에게 통상적으로 요구되는 테스트를 거치지 않고서도 해군 군악대에 선발됩니다. 병역을 마치고 그는 기타리스트 Dennis Sandole (데니스 샌돌)과 음악을 공부했습니다.   불행하게도 그는 나중에 중독과의 기나긴 사투를 벌이는데, 1957년에 소위 부르는 ‘영적 깨달음’을 얻게 되면서 많이 호전됩니다. 1959년부터 1961까지 그는 애틀랜틱 레코드와 오늘날 가장 어렵고 복잡한 재즈곡 중 하나로 꼽히는 그의 히트곡 Giant Steps 를 포함한 곡들을 녹음했습니다. 이전에 언급했듯이, 존 콜트레인은 매우 영적인 사람으로 알려졌습니다. 그를 추종하는 컬트 집단도 있었는데, 그들은 콜트레인이 사람들의 감정을 이해하고 음악을 통해 그것들을 조종할 수 있다고 믿었습니다. 심지어 그를 부활한 신으로 숭배하는 다수의 컬트 집단이 생겨나 그의 재즈 음악을 예배곡으로 사용하기도 했습니다.