Sebelum Islam, Abu Darda berteman akrab dengan Abdullah bin Rawahah.  Setelah Nabi Muhammad SAW hijrah ke Madinah, dua orang teman akrab  tersebut berbeda jalan.

Abdullah bin Rawahah segera menjadi Muslim sementara Abu Darda tetap  dengan kemusyrikannya. Setiap hari dia menyembah berhala yang  diletakkan di salah satu kamar rumahnya. Tiap hari pula berhala itu  dibersihkan dan diberi wewangian.

Kesadarannya baru muncul tatkala pada suatu hari dia menemukan  berhalanya itu hancur berkeping-keping karena dikapak oleh teman  akrabnya sendiri, Abdullah bin Rawahah, secara diam-diam. Semula dia  sangat marah, tetapi di ujung marahnya, kesadarannya muncul.