Viết tiếp cho đoạn này - Khalid sau đó đã di chuyển chống lại các bộ lạc Ả Rập chủ yếu là Kitô giáo và các đơn vị đồn trú Ba Tư của Sasanian ở thung lũng Euphrates ở Iraq. Ông được Abu Bakr giao lại để chỉ huy các đội quân Hồi giáo ở Syria và ông đã dẫn dắt người của mình đến đó trong một cuộc diễu hành không thông thường qua một đoạn sa mạc Syria dài, không có nước, tăng cường danh tiếng của mình như một chiến lược gia quân sự. Kết quả của những chiến thắng quyết định chống lại người Byzantine tại Ajnadayn (634), Fahl (634), Damascus
(634 <unk> 635) và Yarmouk (636), người Hồi giáo dưới sự lãnh đạo của Khalid đã chinh phục phần lớn Syria. Sau đó, ông đã bị hạ cấp từ vị trí chỉ huy cao bởi Umar vì một loạt các nguyên nhân được trích dẫn bởi các nguồn Hồi giáo truyền thống và hiện đại. Khalid tiếp tục phục vụ với tư cách là trung úy quan trọng của người kế nhiệm Abu Ubayda ibn al-Jarrah trong các cuộc vây hãm Homs và Aleppo và Trận Qinnasrin, tất cả vào năm 637-638, tất cả đều đẩy nhanh sự rút lui từ Syria của quân đội Byzantine dưới thời Hoàng đế Heraclius. Umar đã sa thải Khalid khỏi chức thống đốc của Qinnasrin sau đó và ông qua đời ở Medina hoặc Homs vào năm 642.