1919년 여운형은 신한청년당 당수로 활약하여 동생 여운홍과 함께 임시정부 창설에 참여하였고, 임시정부 의정원 의원, 외무부차장 등으로 활동하며 일본에 왕래하기도 했다. 그러나 1923년 국민대표회의로 인해 임시정부가 창조파, 개조파 세력으로 나뉠 때 여운형은 개조파 세력(안창호 중심)으로 따랐으나 임시정부의 파벌다툼에 실망하여 임시정부를 떠났다.

상하이에서 신한청년당으로 지냈을 때와 임시정부 의정원으로 지내던 시절에 여운형은 김구와 처음에 인연이 있었다. 여운형이 일제에 체포되어 국내로 압송된 뒤 1935년, 여운형이 황해도에 살던 김구의 가족들을 상하이로 피신시켜 김구와 상봉하게 해주는 데에 지대한 공헌을 해서 한때 일본경찰의 요주의 인물로 낙인찍혀 심문을 받은 적 있었을 만큼 인연이 두터웠다. 또한, 1945년 8월 일제가 패망하기 직전, 김구의 충칭 임시정부는 국내 진공작전을 위해 국내에 있던 지하 비밀 독립단체였던 건국동맹과 비밀연락망을 두고 연락을 시도했었다. 

임시정부 설립 초기에는 참여하였으나, 후에 탈퇴하여 임시정부와도 인연이 있었다. 그러나, 여운형은 임시정부의 법통성 주장에 동의하지 않았다.

해방 직후에 김구는 여운형을 매우 싫어했고, 이와 마찬가지로 충칭 임시정부 역시 여운형과 협력하지 않았다. 그 이유는 '충칭 임시정부만이 정통성'이라는 '임정법통론' 노선에 여운형이 반대했기 때문이었다. 즉, 여운형의 노선 생각은 '임시정부라는 조직이 중국 충칭에 있는 것뿐만이 아닌 해외 여러 곳(여운형은 미주, 연해주, 시베리아, 만주 등지에 독립운동 단체가 있었다고 주장한다.)에 독립운동세력들이 있었고, 그러한 해외 독립운동가 세력들이 국내에 들어와서 함께 새로운 임시정부를 건설해야 한다.'는 것이었다. 그러나, 이는 김구를 비롯한 충칭 대한민국 임시정부의 눈으로는 '여운형은 임시정부의 권위를 부정하고 중대한 월권, 도전 행위다.'라 여겨 여운형과 협력하지 않게 되었다.

1945년 11월, 대한민국 임시정부 1진이 망명길에서 돌아오자 여운형은 김구를 상대로 '임정뿐만이 아니라 국내외 다른 독립운동 세력, 사회주의 세력과 함께 협력하여 통일된 조국을 건설하자.'고 설득하러 서대문 경교장을 방문했다. 여운형은 경교장에 들어가 옛 동지들과 인사를 나누던 중에 김구는 그와의 대화를 거절했고, 수위에게 몸수색을 지시하여 여운형은 끌려나가 몸수색을 당하기도 했다. 그는 그 이후로 다시는 김구를 찾아갈 생각을 하지 않았다고 한다.
여운형이 김구에 의해 몸수색을 지시받은 장소는?
서대문 경교장