Asıl adı, Üveys bin Âmir el-Karanî'dir. Yemen'in Karen köyünde doğmuş olmasından dolayı kendisine bu isim verilmiştir. Burada yaşayan kabile de bu ismi taşımaktadır. Veysel Karanî Mudar kabilesindendir ve doğum tarihi bilinmemektedir. Babasının adı Âmir'dir ve henüz Veysel Karanî dört yaşında iken vefat etmiştir. Bu sebeple anne terbiyesi ile yetişmiştir. Annesine olan fevkalade saygısı, aşırı bağlılığı, doğruluğu onu veliliğin en yüce mertebesine ulaştırmıştır. Hz.Muhammed'in (s.a.v.) sağlığında Müslüman olmuş, ancak onu göremediği için sahabe olamamıştır.
Veysel Karanî Yemen'de deve çobanlığı yaparak geçimini sağlardı. Sade bir hayat tarzı olmakla birlikte otlattığı develer için de cüzi bir ücret alırdı. Kazancını fakirlerle paylaşır geri kalanını da kendi ihtiyaçları ve annesi için kullanırdı. Hasta ve yaşlı annesinden başka kimsesi olmayan Üveys hiç evlenmemiştir. Yemenden sonra yaşamına Basra'da devam etmiştir. Hz.Ömer'in (r.a.) halifeliği zamanında da Medine'ye gelmiştir.
Vaktinin büyük bir kısmını ibadetle geçirirdi. İnsanlar önceleri ona garip gözle bakıyorlardı. Zamanla Veysel Karanî'deki ulviliği anladıktan sonra ona karşı hürmetlerini esirgemediler. Üveys annesinin vefatından sonra Karen köyünü terk etmiştir.
Veysel Karanî Hak ve Resûlüllah aşkıyla yanan, dünyada bir kerecik olsun Hz. Peygamberi görmeyi arzulayan bir zattı. Ancak annesine bağlılığı ondan uzun süre ayrılmasını engelliyordu. Nihayetinde hem hac farizasını yerine getirmek, hem de Hz.Muhammed’i (s.a.v.) görmek için annesinden kısa süreli izin almış ve Hicaz'a gitmiş ise de Hz.Muhammed (s.a.v.) evde olmadığı için görüşmek nasip olmamıştır. Annesine verdiği sözü de hatırlayarak son derece müteessir ve gözleri yaşlı bir şekilde yaşlı annesinin yanına dönmek üzere yola koyulmuştur.
Hz.Muhammed (s.a.v.) eve döndüğünde kendisini mütevazı bir kulun ziyaret ettiğini anlamış ve ona selam edip "Ben Rahman'ın kokusunu Yemen'den alıyorum." diyerek Veysel Karanî'ye methiyede bulunmuştur.
Veysel Karanî, validesinin vefatından sonra artık Yemen’de kalamayacağı için, Hz.Muhammed (s.a.v.)’in evlat ve ashabına hizmet etmek amacıyla Hz.Ömer (r.a.) zamanında Hicaz’a hicret etmiştir. Daha sonra da Kûfe’ye yerleşmiş ve burada Muaviye ile girişilen Sıffin Muharebesinde Hz.Ali (r.a.)’nin yanında şehitlik mertebesine ulaşmıştır.
Başka bir rivayette ise; Sıffin Muharebesinde yaralandığı ve Hazreti Muhammed’in (s.a.v.) aile ve evladına olan büyük sevgisinden ve bağlılığından dolayı, Kerbela'da, binlerce kişilik Yezit ordusuna karşı koyan bir avuç Müslüman arasında (hepsi 72 kişi idi) ve Hz. Hüseyin’in muhafazası uğrunda şehit düştüğü de belirtilmektedir. Kabrinin yeri belli değildir. Türkiye’nin 6-7 yerinde makamı olduğu söylenir. Ancak Siirt’in Baykan Kazasındaki makamı, bir ziyaretgâh olarak ün salmıştır. Kabrinin bulunduğu bildirilen yerler şöyledir: