6 çocuklu bir ailenin ikinci çocuğuydu. Riemann'ın bilime bu katkıları daha sonra geliştirilen rölativite teorisinin geliştirilmesinde de önemli rol oynamıştır. Riemann ismi aynı zamanda zeta fonksiyonu, Riemann lemması, Riemann manifoldları ve Riemann yüzeyleri ile de bağlantılıdır.
Riemann, 1840 yılında büyükannesi ile yaşamak ve Lyceum'u ziyaret etmek için Hannover'e gitti. Büyükannesinin 1842 yılındaki vefatından sonra Lüneburg'daki Johanneum'a giden Riemann, 1846'da yani 19 yaşında Göttingen Üniversitesi'nde filoloji ve teoloji çalışmaya başladı. En küçük kareler yöntemini anlatan matematikçi Gauss'un derslerine katıldı. 1847 yılında Riemann'ın babası ona teolojiyi bırakıp matematik çalışması için izin verdi.
1847 yılında Berlin'e giden Riemann, burada 2 yıl kalan matematikçi 1849 yılında Göttingen'e döndü.
Riemann, ilk dersini 1854'te verdi ve bu dersle sadece Riemann geometrisinin temellerini kurmakla kalmadı aynı zamanda daha sonra Einstein'in rölativite teorisinde kullanacağı yapıların da temellerini attı. 1857'de Götingen Üniversitesi'nde özel profesörlük kademesine terfi etti ve 1859'da profesör oldu. Riemann'ın Öklid dışı geometri üzerine yaptığı çalışmalar için Einstein'da 60 yıl sonra şöyle diyecekti:
"Bu yoruma çok önem veriyorum, bundan haberim olmasaydı görelilik kuramını hiç bir zaman geliştiremeyecektim."
1862 yılında Elise Koch ile evlendi. Aynı yıl geçirdiği soğuk algınlığı ve tüberkülozdan sonra Göttingen'in havası ona çok sert gelmeye başladı, bu yüzden bundan sonraki ömrünün büyük bir bölümünü İtalya'da geçirdi. burada kaldığı sürede, İtalyan matematik okulunu büyük ölçüde etkiledi.
Yaşamının 6 yılı içinde bir çok akademinin üyeliğine de seçildi ve haklı bir üne kavuşan Riemann, 20 temmuz 1866 tarihinde genç yaşta öldü.