Enis, Mekke'ye gelip gitmiş ve kardeşi Ebû Zer'e Fahr-i Âlem'in hallerini ve vasıflarını anlatmış. Ebû Zer, "Halk, Onun hakkında ne söylüyor?" diye sormuş. Enis de: "Şâirdir, kâhindir, sihirbazdır diyorlar. Ama ben, kâhinlerin sözünü işittim ve çeşitli şiirlerle karşılaştırdım. Allah'a yemin ederim ki, hiç birine uymaz ve bundan sonra ona şair demek kimsenin ağzına yakışmaz. Kısacası, Muhammed (s.a.v.) doğrudur ve onlar yalancıdır" diye cevap vermiş. Onun üzerine Ebû Zer (r.a.) de hemen İslâm oluvermiştir. Rebiülevvel ayında Ebu Zer (r.a.), Medine'ye üç saat uzaklığı olan bir otlakta oğlu ile birlikte, Resûl-i Ekrem'in develerini güderken , Hısnü'l-Fezarî, oğlu Uyeyne, kırk atlı ile gelip Ebu Zer'in oğlunu öldürmüştür. Ebu Zer Gıfarî de Fahr-i Kâinat'ın seçkin ashabından olduğu halde özel hizmetlerinde bulunurdu.
Şam'ın fıkıh bilgini Ebu Zer-i Gıfarî (r.a.) altın ve gümüş biriktirenleri yerer, "Ve bir günlük nafakanın fazlasını biriktirmek doğru değildir' diye bu mânâya gelen âyeti okurdu. Ebu Zer, o âyetin görünür mânâsına göre hareket eder ve bugünlük nafakadan fazla mal biriktirmeyi uygun bulmayıp, fazlasının Allah yolunda harcanmasını öğütlerdi. Kısaca Hz: Ebu Zer, son derece şiddetli zühd ve takva yoluna gider ve halkı da sert bir dille böyle güç işlere yöneltirdi. Hz. Osman zamanında devlet gelirleri çoğaldı. Deniz ticaret yolu da açıldı. Pek çok ganimetler alındı. Halk da tabiatiyle nimetlere ve rahatlığa meyletti. Böylece meydana gelen servet ve medeniyetin tabiî hâllerinden olduğu üzere, günden güne servet sahipleri çoğalmakta ve Ebu Zer'in aradığı takva ve kanaat sahipleri azalmaktaydı.
Ebu Zer Hz. Peygamber sağken olmayan bid'atlerden ve yeni çıkan âdetlerden nefret ederek, her zaman "Fakirleri gözetiniz" diye zenginlere öğütler verirdi. fakirler, Ebu Zer'in sözlerini senet kabul ederek zenginleri zorlar olduklarından, zenginler onların bu zorlamalarından şikâyet edinirdi.
Hz. Ebu Zer, önce iman edenlerin beşincisidir. Resûl-i Ekrem (s.a.v.) onun hakkında, "Dünya'ya Ebu Zer'den daha fazla lehçesi sâdık adam gelmedi" diye buyurmuştu.
Senede dörtyüz altın olan maaşının günlük geçim parasından fazlasını fakirlere dağıtıp, yanında bir altın bile alıkoymazdı. Halka arasında muhterem bir kimseydi, fakat, zühd ve takva da sıkıydı.
Herkesin kendi gibi abalara bürünüp de fazla malın Allah yolunda sarf olunmasını isterdi. İyi niyetine diyecek yoktu. Fakat genel durum buna uygun değildi. Muaviye, Ebu Zer'i utandırmak ve susturmak için bir gece ona, bir adamıyla bin altın göndermiş. O da o gece uyku ve rahatını terk ederek bu altınları fakirlere dağıtmış. Ertesi gün Muaviye'nin öğretmesiyle o adam sabahtan Ebu Zer'e gitmiş, "Aman beni Muaviye'nin azabından kurtar. O, beni başka yere göndermiş. Ben, yanlışlıkla sana gelip altınları verdim" demiş. Ebu Zer "Oğulcağızım! O, altınlar geceleyin fakirlere bölüştürüldü. Bir tanesi sabaha kalmadı. Sen, üç günlük bir zaman iste de o miktar altın tedarik ediverelim" diye özür dilemiş. Muaviye bakmış ki Ebu Zer'in işleri, sözlerini doğruluyor. Bir diyecek yok... Susturmak da mümkün değil... Fakat Şam'da idaresi de zor... İster istemez onun tavır ve gidişatından Hz. Osman'a şikâyette bulundu. O da Ebu Zer'i Medine'ye çağırdı. Halife'nin emri üzere Ebu Zer, Medine'ye gitti.
Hz. Osman ona, "Ey Ebu Zer! Şam halkı senden niçin şikâyet ediyor?" deyince durumu açıkladı. Bunun üzerine Hz. Osman, "Ey Ebu Zer! Halkı zühd üzerine yöneltmek ve bunun için zorlamak mümkün olmaz. Benim üzerime lâzım olan, onların arasında Allah'ın emriyle hükmetmek ve onları adalet ve orta yolu tutmalarını Sağlamaktır." dedi. Ebu Zer ona cevap olarak, "Zenginler, sadakalar vererek komşu ve kardeşlerine ihsan etmedikçe ve akrabalarını gözetmedikçe biz, onlardan razı olmayız" dedi. Orada bulunanlardan Kâ'bü'l-Ahbâr, Farzı yerine getiren borcunu ödemiş olur" deyince Ebu Zer, hiddetlenip, "Ey Yahudi oğlu! Sen kimsin ki böyle bir konuya karışıyorsun" diyerek sopayla vurdu, Kâ'b'ın başı yaralandı. Bu hâlde Ebu Zer'in ceza görmesi gerekti. Onun da buna bir diyeceği yoktu. Fakat Hz. Osman, Kâ'bü'l-Ahbar'dan bu hakkın kendisine. bahşolunmasını rica etti, oda bağışladı.
Ebu Zer, artık Medine'de duramayacağını anladı ve Hz. Osman'a
dönerek, "Resûl-i Ekrem (s.a.v.) 'Binalar, Selâ dağına ulaşınca Medine'den çık' diye bana emretmişti. İzin verir misin çıkıp gideyim?" dedi. Hz. Osman da izin verdi. Ebu Zer, oturmak üzere Medine yakınında olan Rebeze denilen köye gitti. Hz. Osman, ona bir sürü deve ve iki köle verdi ve yetecek kadar erzak tâyin buyurdu. Muaviye de onun çoluk çocuğunu Şam'dan Rebeze'ye gönderdi.
Ebu Zer, herkesi bir lokma ve bir hırkaya kanaat eyleyip de, Müslümanların fazla malları, Allah (c.c.) yolunda sarfolunsun diye ısrar ederdi. Pek güzel bir arzu. Vaizler, halkı böyle fedakârlık yoluna teşvik edebilirler. Ama hükümet, bu konuda halka zor kullanabilir mi? Malının zekâtını veren adama 'malının fazlasını fakirlere dağıt' diye baskı yapabilir mi?(Ahmet Cevdet Paşa’nın “Kısas-ı Enbiya ve Tevarihi Hulefa” adlı eserinin muhtelif sayfalarından derlenmiştir.)