Fatih Sultan Mehmed’in vefatından (1481) sonra yapılan ilk türbenin tarihi belli değildir. 1766 yılındaki depremde cami ile birlikte yıkılan türbe, bir yıl sonra III. Mustafa tarafından tekrar inşa ettirilmiştir. Türbenin mimarı Mehmed Tahir Ağadır. Türbede Fatih Sultan Mehmed tek başına yatmaktadır. 1782 yılındaki Cibali yangınında türbe, içindeki sanduka ve eşyalarla birlikte yanmış, I. Abdülhamid tarafından tamir ettirilmiştir. Türbeye konulan yeni sandukanın üzerine Kabe örtüsü örtülmüş, kapının üstüne bir kitabe konulmuştur. 1784 tarihli kitabede şunlar yazmaktadır:
“Cenab-ı hazret-i Abdülhamid Han kaldırıp tekrir
Bu pür nur merkade bu ayeti vazetti ibret gir.”
Sultan Abdülaziz dönemindeki tadilat sırasında türbeye altınlı nakışlar ve sürme pencereler eklenmiş, V. Mehmed Reşad (1909-1918) zamanında ise iç tezyinatı İtalyan bir dekoratöre yeniden yaptırılmıştır. Türbe 1952-1953 ve 2004 yıllarında yeniden tadilat görmüştür.
Ongen planlı türbe kubbelidir. Cepheleri mermerle kaplanmıştır. Cephe düzeni Batılı etkileri yansıtır. Giriş kısmındaki iki sütunlu sundurma, Osmanlı barokuna özgü dalgalı ahşap saçağı taşır. Türbe girişindeki sahanlık, ondüleli saçaklı, zengince dekore edilmiş olup camekandır. Kapının üstündeki kitabede Ankebut Suresi’nden bir ayet vardır: “Baki olan Allah’tır, her canlı ölümü tadacaktır.” On köşe üzerine oturan kubbe ile duvarlar geç devre ait kalem işleriyle süslenmiştir. Pencere üstlerinde celi sülüs ile Fetih Suresi’nin ilk beş ayeti (Doğrusu biz sana apaçık bir fetih ihsan ettik. Böylece Allah senin geçmiş ve gelecek günahını bağışlar. Sana olan nimetini tamamlar ve seni doğru yola iletir. Ve sana Allah, şanlı bir zaferle yardım eder. İmanlarına iman katsınlar diye müminlerin kalplerine güven indiren O’dur. Göklerin ve yerin orduları Allah’ındır. Allah bilendir, herşeyi hikmetle yapandır. Mümin erkeklerle mümin kadınları, içinde ebedi kalacakları, altlarından ırmaklar akan cennetlere koyması, onların günahlarını örtmesi içindir. İşte bu, Allah katında büyük bir kurtuluştur.) yazılmıştır. Yazıların sahibi Hattat Abdülfettah Efendi’dir. Fatih Sultan Mehmed’in sandukası gümüş bir şebekeyle çevrelenmiştir. Girişin sağ tarafında, Abdülhak Hamid Tarhan’ın “Merkad-ı Fatih’i Ziyaret” şiiri yazılıdır. 2011 yılında restorasyon çalışmalarına başlanmıştır.