Sejak kecil, Abdurrahman mendapatkan pendidikan berkualitas dari para wali agung. Mulai dari Muhammad bin Abu Bakar Ba’bud, Muhammad bin Sa’id Abu Syukail, Muhammad bin Sa’id al-Kabin, Muhammad bin Alwi bin Ahmad bin Muhammad al-Faqih al-Muqaddam, dan masih banyak lagi.
Abdurrahman tumbuh menjadi ulama yang sangat rajin dalam beribadah. Dikisahkan bahwa ia sampai terjaga hingga 33 tahun. Bahkan, ia sampai bertemu datuknya, Rasulullah saw., beserta para sahabat dalam keadaan tersebut. Selain itu, ia sangat suka menyendiri di bukit an-Nu’air untuk beribadah dan berzikir.
Selain itu, ia juga memiliki rasa belas kasih yang amat luhur pada segenap makhluk, terutama manusia. Suatu hari, seorang santrinya yang bernama Muhammad bin Hasan al-Jamal al-Lail sedang kelaparan. Abdurrahman yang mengetahui hal tersebut langsung menghidangkan makanan untuknya.
Muhammad yang terperanjat bertanya pada gurunya, “Darimana anda mendapat hidangan itu?,”.
Abdurrahman menjawab dengan santai, “Hidangan ini kudapati dari seorang wanita”.
Ini adalah salah satu kemuliaan yang diberikan oleh Allah padanya. Kemuliaan tersebut didapat dari keluhuran tata krama dan tirakat yang dilakukan secara kontinu pada Allah.
