Sederetan nama telah mengukir sejarah perjalanan Ma’had Aly. KH. Asy’ad Syamsul Arifin, Pengasuh Pondok Pesantren Salafiyah as-Syafi’iyah Sukorejo Situbondo adalah nama yang tidak mungkin dilupakan. Sebab, di pondok pesantren inilah pertama kali Ma’had Aly didirikan dan hingga kini semakin berkembang serta menjadi kiblat percontohan bagi Ma’had Aly yang belakangan didirikan.
Ada nama-nama lain yang juga gigih menyuarakan eksistensi Ma’had Aly, seperti KH Wahid Zaini dan KH Imron Hamzah. Agenda ini disuarakan berlebihan, saat Muktamar RMI tahun 1988 di Pondok Pesantren Watucongol Muntilan Jawa Tengah. Saat itu, diukur dalam sebagai Ketua dan Sekjen RMI.
Selanjutnya ada nama KH. Azis Masyhuri, KH Mahmud Zein, hingga Dr. Amin Haedari. Mereka adalah tokoh-tokoh yang memiliki kesungguhan untuk mewujudkan lahirnya Ma’had Aly. Di bawah kepemimpinan Gus Rozin, RMI juga berjuang untuk menjadikan Ma’had Aly sebagai Pendidikan Tinggi Keagamaan Islam yang berbasis pondok pesantren menjadi perhatian terdepan. Hal ini tepat dilakukan bersamaan dengan lahirnya regulasi pendidikan yang sangat sejalan.
