MI Salafiyah 2 Setail didirikan pada tahun 1991. Madrasah ini pada awalnya didirikan sebagai fillial atau sekolah cabang dari MI Salafiyah 1 Setail untuk menjawab kebutuhan masyarakat Dusun Jalen Barat Desa Setail akan pendidikan tingkat dasar berbasis Islam.
Kemudian dalam perjalanannya, MI Salafiyah 2 Setail berdiri sebagai sekolah mandiri serta mengalami berbagai transformasi sebagai upaya menjawab tuntutan zaman terhadap dunia pendidikan sampai menjadi madrasah seperti sekarang ini.