Hicri 417 (1026) yılında Irak’ın Kûsan bölgesinde doğmuştur. Hakkındaki bilgiler, sınırlı kayıtlardan ibarettir. Ebü’l-Vefâ’ya dair asıl kaynak, Şehâbeddin Ahmed el-Vâsıtî’nin Hicri 773’te (1371) kaleme aldığı Teẕkiretü’l-müttaḳīn ve tebṣıratü’l-muḳtedîn adlı Arapça menâkıbnâmedir. Menkıbelerle karışık bir biyografi niteliğindeki bu eserin Menâkıb-ı Tâcü’l-ârifîn Seyyid Ebü’l-Vefâ adını taşıyan, mütercimi meçhul Türkçe çevirilerinin yazma nüshalarına oldukça sık rastlanması onun Anadolu’da iyi tanındığını gösterir.
Menâkıbnâmeye göre adı Muhammed b. Muhammed Arîz olan Ebü’l-Vefâ Kürt asıllı olduğu sanılan bir ailenin çocuğudur. Tahsilinin önemli bir kısmını Bağdat’ta yaptıktan sonra Buhara’ya gitmiş, dinî ilimleri öğrenerek tekrar Bağdat’a dönmüş, burada Ebû Muhammed Abdullah b. Talha eş-Şenbekî’ye intisap etmiştir. Uzun süre hizmetinde bulunduğu şeyhi, kendisine karşı gösterdiği vefa ve sadakatinden dolayı ona “Ebü’l-Vefâ” künyesini vermiştir. Menâkıbnâmede ayrıca onun İmam Zeynelâbidin soyundan bir seyyid olduğu da kaydedilir.
Ebü’l-Vefâ, Ebû Muhammed eş-Şenbekî’nin vefatından sonra onun yerine geçmiş ve hemen her tabakadan pek çok sayıda mürid edinmiştir. Bu durumun Abbâsî Halifesi Kāim-Biemrillâh’ı (1031-1075) endişeye sevkettiği ve halifenin, bir seyyid olması nedeniyle Ebü’l-Vefâ’nın ileride hilâfet makamına göz dikebileceğini düşündüğü rivayet edilmektedir. Menâkıbnâmeye göre halife bu endişeden kurtulmak için şeyhi sapıklıkla suçlayarak bir ulemâ heyeti huzurunda yargılatıp ölüme mahkûm ettirmeyi tasarlamış, fakat plan istenildiği gibi sonuçlanmamış, şeyh ulemâ önünde kendisine yöneltilen sorulara başarılı cevaplar vererek onları mahcup etmiştir.
Menâkıbnâmede anlatılan bazı olaylar, Ebü’l-Vefâ’nın Sünnilikle pek uyuşmayan davranışlara sahip bulunduğunu göstermektedir. Eserdeki parçalardan birinde, halifenin şeyhe bir mektupla birlikte bir şarap kadehi gönderdiği; mektupta, kadın-erkek bir arada yaptığı âyinlerde şarap sunmak için kullanılmak üzere bu kadehin gönderildiğinin yazıldığı anlatılmaktadır. Benzer bir olayın Ahmed Yesevî için de söz konusu olduğu bilinmektedir. Müridlerinin büyük bir çoğunluğunun konar göçer Türkmenler’den oluştuğu anlaşılan Ebü’l-Vefâ’nın bu tür âyinler yaptığından şüphe etmemek gerekir. Ona nisbet edilen Vefâiyye tarikatının XIII. yüzyıl Anadolu’sundaki en güçlü temsilcisi olan ve Babaî isyanı diye bilinen büyük sosyal ayaklanmayı gerçekleştiren (1240) Baba İlyas’ın da bu tür âyinler yaptığını bizzat torunu Elvan Çelebi nakletmektedir.
Ebü’l-Vefâ’nın gerçekten Kürt asıllı olduğunu kabul etmek biraz güçtür. Çünkü menâkıbnâmede onun en ileri gelen halifelerinin hemen tamamının Boğa b. Batu, Muhammed et-Türkmânî, Turhan, Tekin vb. tipik Türk isimleri taşıdığı veya onların Türkmen olduklarını gösteren nisbeleri bulunduğu görülmektedir. Ayrıca o çağın Arap müelliflerinin, bölgenin yerli halkı olan Kürtler’in göçebe bir hayat tarzı sürmeleri dolayısıyla, Türkmen zümreleri gibi oraya gelen bütün öteki konar göçer toplulukları da “Kürd” kelimesiyle niteledikleri bilinmektedir. Buna göre Ebü’l-Vefâ’nın bir Kürt şeyhi olması muhtemel bulunmakla beraber Türkmen şeyhi olması ihtimali daha güçlü gibi görünmektedir.
Şa‘rânî’nin, zamanında çok büyük bir şöhret sahibi olduğunu kaydettiği Ebü’l-Vefâ ömrünün büyük bir kısmını Bağdat’ta geçirmiş, bundan dolayı Bağdâdî nisbesini almış ve 20 Rebîülevvel 501’de (9 Aralık 1107) burada vefat etmiştir.
Ebü’l-Vefâ’nın biri fıkha dair er-Risâle, diğeri tasavvufla ilgili Ḫulâṣatü’t-tevḥîd fî ḳavâʿidi’t-taṣavvuf adlı iki eseri olduğu rivayet edilmektedir.
Vefâiyye tarikatının Irak ve Suriye Türkmenleri’nin yanı sıra Anadolu’daki Türkmenler arasında da oldukça yaygın olması sebebiyle Ebü’l-Vefâ’nın tesiri Anadolu’ya kadar uzanmıştır. XIII. yüzyıl başlarındaki büyük Türkmen şeyhlerinden olup adı Bektaşî geleneğine de karışan meşhur Dede Garkın’ın da bir Yesevî şeyhi olması muhtemel bulunduğu gibi bir Vefâî şeyhi olması daha büyük bir ihtimal gibi görünmektedir. Nitekim XIV. yüzyıl başlarında Osmanlı Devleti’nin teşekkülü sırasında, bu devletin arazisinde yerleşmeye gelen ve ilk Osmanlı hükümdarlarıyla yakın ilişkiler kuran Geyikli Baba gibi Rum abdallarının da Ebü’l-Vefâ kültüne bağlı bulunduklarını ilk Osmanlı vekāyi‘nâmeleri kaydetmektedir. Ayrıca Ebü’l-Vefâ menâkıbnâmesinin Türkçe çevirisinden, Osman Gazi’nin kayınpederi Şeyh Edebâli’nin de Vefâiyye tarikatına mensup olduğu anlaşılmaktadır. Bu ise Vefâiyye tarikatının Osmanlı Devleti’nin kuruluşundaki rolünü vurgulamak bakımından önemlidir.