Pondok Pesantren Aji Mahasiswa Al-Muhsin telah berdiri semenjak tahun 1980 yang didirikan oleh KH. Zainudin Khirzin dengan fokus konsentrasi pada pengajaran Al-Qur’an dan pengaplikasian kegiatan amaliyah keagamaan sehari-hari. Pada tahun 8 Mei 1990 secara resmi berdiri dengan adanya pembentukan Yayasan Aji Mahasiswa Al-Muhsin oleh KH. Ahmad Djunaidi, KH Muhadi Zainudin, Ny. Hj. Siti Nurhayati, Ny. Hj Solihatul Hasanati, Ny. Hj. Umi Dzuhrowiyati dan KH. Mashuri yang bertempat di Krapyak Bantul Yogyakarta.
Saat awal pendirian Yayasan, Pendidikan kemudian berkembang menjadi beberapa Lembaga diantaranya; Taman Pendidikan Al-Qur’an dan Madrasah Diniyah (TPQ-MDA) yang diasuh oleh Ny. Hj. Siti Nurhayati dan pondok mahasiswa yang diasuh oleh KH. Muhadi Zainudin. Pendirian TPQ adalah bentuk pengabdian agama kepada masyarakat sekitar dengan membekali Pendidikan dasar agama. Pendirian pondok mahasiswa bertujuan untuk membekali ilmu dan amal kepada mahasiswa dan mahasiswi yang sedang menimba ilmu di berbagai Universitas di Yogyakarta.
Diharapkan pondok mahasiswa dapat membekali para santri yang tidak hanya unggul dalam bidang ilmu umum namun juga ilmu keagamaan. Hingga saat ini, Lembaga telah berkembang dari lembaga taman asuh anak, RA (Roudhotul Atfal), MI (Madrasah Ibtidaiyah) dan SMK (Sekolah Menengah Kejuruan) hingga santri takhasus yakni santri yang secara khusus menghafalkan Al-Qur’an dan santri mahasiswa. Saat ini jumlah santri dari tingkat anak hingga mahasiswa terdapat ratusan santri dengan rincian santri RA terdapat 60 santri, santri MI 180 santri, santri SMK 70 santri dan santri Takhasus dan mahasiswa baik Putra maupun Putri sebanyak 70 santri.