Persamaan antara Madrasah Diniyah dan Formal hanya terbatas pada nama. Secara substansi, kedua institusi pendidikan ini sama sekali berbeda. Berikut beberapa di antaranya:
a) Madrasah diniyah hanya mengkaji ilmu agama sedangkan madrasah formal lebih banyak mengkaji ilmu umum (70%) sedangkan ilmu agamanya hanya 30% itupan memakai bahasa Indonesia.
b) Madrasah diniyah memakai kurikulum sendiri dan karena itu materi kajiannya berbedabeda pada setiap madrasah begitu juga kualitasnya, sedangkan madrasah formal memiliki kurikulum yang seragam dan berada di bawah naungan Kementerian Agama (Kemenag).
c) Madrasah Diniyah pasti swasta karena dikelola swasta, sedangkan madrasah formal bisa negeri atau bisa juga swasta sebagaimana SMP, SMA, dan SMK.
d) Madrasah Diniyah tidak memiliki persamaan dengan sekolah umum, sedangkan madrasah formal memiliki keseteraan dengan sekolah umum yang lain baik secara yuridis formal maupun pengakuan. Misalnya, Madrasah Ibtidaiyah (MI) formal setara dengan Sekolah Dasar (SD), Madrasah Tsanawiyah (MTs) setara dengan Sekolah Menengah Pertama (SMP), Madrasah Aliyah setara dengan Sekolah Menengah Atas (SMA) atau Sekolah Menengah Kejuruan (SMK), perguruan tinggi agama seperti IAIN atau UIN setara dengan Universitas dengan berbagai stratanya.
e) Umumnya madrasah diniyah berada di dalam kompleks pesantren dan menjadi bagian integral dan tak terpisahkan dari sistem pendidikan pesantren salaf. Sedangkan madrasah formal umumnya berdiri sendiri dan tak terkait dengan pesantren atau kalau ada di dalam kompleks pesantren itu menjadi simbol dari sistem pesantren modern.
f) Penentuan kelas di madrasah diniyah bagi siswa baru adalah berdasarkan tes kemampuan dasar ilmu agama, sedangkan di madrasah formal penempatan kelas ditentukan berdasarkan ijazah terakhir atau raport terkini bagi siswa yang pindah kelas dari sekolah yang berbeda sebagaimana biasa terjadi pada sekolah umum.
g) Madrasah diniyah mengandalkan kualitas hasil yang didapat selama belajar tanpa mengharapkan ijazah atau sertifikat apapun, sedangkan madrasah formal lebih mengandalkan ijazah yang diperoleh.
h) Ijazah Madrasah diniyah tidak diakui negara maupun institutsi pendidikan lain yang setara atau di atasnya, sedangkan madrasah formal diakui oleh negara dan lulusannya dapat melanjutkan pendidikan ke institusi pendidikan lain yang setara atau di atasnya. Misalnya, lulusan MTS (Madrasah Tsanawiyah) formal dapat melanjutkan ke SMA atau SMK. Lulusan MA formal dapat melanjutkan ke fakultas kedokteran atau teknis atau sosial di universitas negeri atau swasta manapun; sedangkan lulusan madrasah diniyah tidak bisa.
i) Materi yang dikaji di madrasah diniyah umumnya berbahasa Arab (kitab kuning), sedangkan ilmu agama yang dikaji di madrasah formal memakai bahasa Indonesia.
