Syaikh Ahmad Rifa’i dilahirkan di desa Tempuran Kabupaten Kendal Jawa Tengah pada tanggal 9 Muharam 1200 Hijriyah bertepatan dengan tahun 1786 Masehi. Ayahnya bernama RKH. Muhammad bin RKH. Abi Suja’ alias Raden Soetjowidjojo, yang menjadi qodli agama di kabupaten tersebut. Ayahnya meninggal ketika Ahmad Rifa’i berumr 6 tahun. Saudara dekatnya yang paling besar ialah Syaikh Al-Asy’ari (suami Nyai Rajiyah binti Muhammad) ulama pendiri/pengasuh pondok pesantren Kaliwungu, mengasuh dan membesarkan dalam pendidikan keagamaan yang benar selama 20 tahun.