Secara etimologis, para ahli berselisih tentang
asal kata tasawuf, antara lain :
Shuffah ( serambi tempat duduk ), yakni serambi masjid nabawi di Madinah yang
disediakan untuk orang-orang yang belum mempunyai tempat tinggal dan kalangan
Muhajirin di masa Rasulullah SAW. Mereka biasa dipanggil ahli shuffah (pemilik
serambi) karena di serambi masjid itulah mereka bernaung.
Shaf ( barisan ), karena kaum shufi mempunyai iman kuat, jiwa bersih, ikhlas,
dan senantiasa memilih barisan yang paling depan dalam sholat berjamaah atau
dalam perang suci.
Shafa : bersih atau jernih.
Shufanah : Sebutan nama kayu yang bertahan
tumbuh di padang pasir.
Shuf (bulu domba), disebabkan karena kaum sufi biasa menggunakan pakaian dari
bulu domba yang kasar, sebagai lambang akan kerendahan hati mereka, juga
menghindari sikap sombong, serta meninggalkan usaha-usaha yang bersifat
duniawi. Orang yang berpakaian bulu domba disebut “ mutashawwif ”, sedangakan
perilakunya disebut “ tasawuf ”