Tentang tasawuf Syaikh Ahmad Rifa'i menyatakan bahwa ilmu tasawuf adalah ilmu yang membahas tentang akhlak manusia yang terpuji dan yang tercela untuk memperoleh keridlaan Allah. Syaikh Ahmad Rifa'i menuturkan sebagian bait-baitnya dalam kitab Riayatal Himmat At-Tho'at:

“Sesungguhnya ilmu tasawuf itu adalah mengetahui sifat-sifat mahmudah (terpuji) dan madzmumah (tercela) yang ada dalam hati untuk menanamkan keikhlasan kepada Allah” (Ri'ayatal Himmah: 1/7).