Ia menempati urutan ke-14 diantara para sahabat yang pertama masuk Islam. Ia juga seorang Muhajirin yang pertama wafat di Madinah, dan orang Islam pertama yang dimakamkan di Baqi'.
Tatkala cahaya Islam mulai bersinar, maka Utsman bin Mazh’un adalah salah seorang dari beberapa gelintir manusia yang segera menerima panggilan Ilahi dan menggabungkan diri ke dalam kelompok pengikut Rasulullah. Ia ditempa oleh berbagai derita dan siksa, sebagaimana dialami oleh orang-orang Mukmin lainnya, dari golongan berhati tabah dan sabar.
Ketika Rasulullah SAW mengutamakan keselamatan golongan kecil dari orang-orang beriman dan teraniaya ini, dengan jalan menyuruh mereka berhijrah ke Habsyi, dan beliau siap menghadapi bahaya seorang diri, maka Utsman bin Mazh’un terpilih sebagai pemimpin rombongan pertama Muhajirin.