Idea untuk menubuhkan MRSM Alor Gajah telah di ilhamkan oleh pengerusi MARA pada ketika itu iaitu Yang Berhormat Datuk Wira Abu  Seman bin Hj Yusop pada tahun 2003. MRSM Alor Gajah telah mula beroperasi pada 02 Januari 2007 di satu kawasan seluas 52 hektar di atas Lot 1720 Mukim Ayer Paabas Daerah Alor Gajah, Melaka. Pembangunan infrakstrukturnya mengandungi bangunan Pentadbiran, bangunan Akademik, bangunan Asrama Putera dan Puteri, Dewan Selera, Dewan Besar, Pusat Sumber ilmu, Bangunan Makmal Sains, Surau, Rumah Pengetua, Rumah Timbalan Pengetua, Apartmen Guru dan kakitangan serta Gelanggang Permainan.

Pengambilan pelajar pertama ialah pada 19 Mac 2007 yang terdiri daripada 366 orang pelajar tingkatan empat (186 pelajar putera, 180 pelajar puteri). Manakala bilangan guru kumpulan pertama pula ialah seramai 35 orang dan Bilangan kakitangan seramai 24 orang.

MRSM Alor Gajah adalah MRSM yang pertama melaksanakan program kurikulum terbeza yang melibatkan pembelajaran kemahiran insaniah (softskill ) secara formal.