Celâyirliler hanedanından Şeyh Hasan (1340-1356) ve oğlu Şeyh Üveys (1356-1374) dönemlerinde Bağdat valiliği yapan Emînüddin Mercân tarafından Bağdat'ın doğu yakasında inşa edilmiştir. Kurucusu tarafından "el-Medresetü'l-Mercâniye" olarak adlandırılmıştır.
Dârüşşifa ve handan oluşan yapılar topluluğunun bir parçası olan medrese Emînüddin Mercân, bu medreseyi fıkıh, tefsir ve hadis talebelerine eğitim vermek amacıyla vakfetmiş ve vakfiyesinde, Hanefî ve Şâfiî mezheplerine göre eğitim verilmesini şart koşmuştur.
Medresenin kuruluşundan Kanûnî Sultan Süleyman'ın Bağdat'ı fethine kadar, şehre sırasıyla Celâyirliler, Karakoyunlular, Akkoyunlular ve Safevîler hâkim olmuştur. 1534'ten 1917'ye kadar yaklaşık 400 yıl boyunca Osmanlı idaresi altında varlığını sürdüren medresenin bilinen ilk restorasyonu 1785'te Bağdat Valisi Süleyman Paşa tarafından yaptırılmıştır.
1945 yılında Bağdat Belediyesi tarafından yürütülen Reşîd caddesinin genişletilmesi çalışmaları kapsamında Mercâniye Medresesi'nin caddeye bakan güneybatı cephesi yıkılmıştır. Yıkım sırasında, iç duvarlardaki sıvaların altından hezarbaf (bin dokuma) tekniği ile işlenmiş yüksek sanat değeri taşıyan tuğla işçiliğinin açığa çıkmasıyla yıkım durdurulmuştur. Keşfedilen sanat eserlerinin bir kısmı Bağdat Müzesi'ne, diğer kısmı ise Kasrülabbâsî olarak bilinen Şerâbiye Medresesi'ne taşınmıştır. Yıkımın durdurulması ve kurtarılmaya değer görülen parçaların taşınmasının ardından, 1948 yılına kadar medresenin minaresi ve taç kapısı dışındaki bütün bölümleri ortadan kaldırılmıştır.
Mercâniye Medresesi, açık avlulu, çift eyvanlı, minareli ve kurucusunun türbesini ihtiva eden kare planlı bir yapıdır. İki katlıdır ve yaklaşık 10,8 m. yüksekliğinde ve 39,2x36,8 m. ölçülerindedir. 21x20,1 m. ölçülerindeki kare avlunun etrafında öğrenci hücreleri, derslikler, kuzeydoğu cephesinde bir eyvan, güneybatı cephesinde bir mescit bulunur. Taçkapının karşısında Mercân b. Abdullah'ın türbesi yer almaktadır. Üst kata çıkış, medresenin dört köşesinde bulunan dört merdivenle sağlanmıştır.
Taçkapı tezyinatı, Selçuklu sanatının izlerini taşımaktadır. Kapı, dikey dikdörtgen bir çerçeveye yerleştirilmiş sivri kemerli bir yapıya sahiptir. Kemer yüzeyi, geometrik ve bitkisel motiflerden oluşan zengin bir süslemeye sahiptir. Taçkapının üzerinde yer alan ve yapı hakkında bilgi veren kitabe metni, kıvrık dallar ve geometrik şekillerle süslenmiş bir zemin üzerine işlenmiştir. Mescidin avluya bakan cephesinde, ince ahşap sütunlar üzerinde yükselen son cemaat yeri revakı bulunmaktaydı.
Mercâniye Medresesi mescit, eyvan, türbe, Kur'an okuma salonu (dârüttilâve), kütüphane, yirmi dört talebe odası/hücresi, abdesthane, tuvalet ve mutfak bölümlerinden oluşmaktaydı. Ayrıca müderrislerin ikametine tahsis edilen iki konağı bulunmaktaydı. Oldukça zengin vakıf gelirlerine sahipti. Müderrislerin, vakıf yöneticilerinin ve medrese çalışanlarının maaşları ile talebelerin barınma masrafları ve binanın bakım giderleri vakıf gelirlerinden karşılanmaktaydı. Medrese vakfiyesi iki farklı metin halinde günümüze ulaşmıştır. Bunlar, altı büyük kitabe halinde tuğlaya işlenmiş vakfiye metni ile Bağdat'taki Dârülmahtûtât'ta (nr. 33.272) kayıtlı vakfiye suretidir.
İkinci vakfiye metni, medresenin bölümleri, müderrisler, vakıf yöneticileri, öğrencilerin sayıları, görevleri, maaşları ve sahip oldukları diğer haklarla ilgili oldukça ayrıntılı bilgi vermektedir. Buna göre, vakfa ait taşınmazların kiralanması, işletilmesi ve gelirlerinin toplanması vakıf mütevellisinin sorumluluğundaydı. Vakıf şartlarına aykırı uygulamaların önlenmesi için Bağdat valileri ve kadıları yetkilendirilmişti. Ancak bu yetki, onların vakfın idaresinde istedikleri şekilde tasarrufta bulunmalarını içermiyordu. Medresenin ilmî amaçlar dışında kullanılmaması ve medresede mahkeme kurulmaması vakıf şartları arasında yer alıyordu.
Sultan IV. Murad dönemine ait tahrir kayıtlarına göre, Mercâniye Medresesi Bağdat'taki Sünnî vakıflar arasında yıllık 95.110 akçe hasılatla en yüksek gelire sahip medreseydi. Müderris, hatip, mütevelli, duâgû gibi personeline vakıf gelirlerinden günlük, aylık ve yıllık aynî ve nakdî ödenekler tahsis edilmişti.
Mercâniye Medresesi'nde Hanefî ve Şâfiî mezheplerinden birer müderris, ikişer muid ve her mezhepten on beşer fıkıh talebesi olmak üzere toplamda otuz fıkıh talebesi kontenjanı bulunmaktaydı. Medresede ayrıca Hanefî ve Şâfiî mezheplerinden birer müdür (mürettip), birer imam ve müezzin kadrosu bulunuyordu.
Dersler, mevsim şartlarına göre farklı mekânlarda yapılmaktaydı. Yaz mevsiminde Şâfiîler mescitte, Hanefîler ise kuzeydoğu cephesindeki eyvanda derslerine devam ediyorlardı. Medresenin girişinin sol köşesinde, mescidin imamı tarafından on yetim veya fakir çocuğa, cuma ve bayram günleri dışında, Kur'an, hafızlık ve hüsnühat eğitimi verilmekteydi. Türbenin sağında bulunan dârüttilâvede ise, kesintisiz olarak Kur'an okuyan dört hafız görev yapmaktaydı.
Medresenin kütüphanesi, haftada iki gün (pazartesi ve perşembe) hâzinikütüp tarafından açılmaktaydı. Hâzin, kitapların ve müelliflerinin isimlerini kaydetmek, rehin bırakarak kitap alan kişilerin adlarını, aldıkları kitapları, rehin bırakılan nesneleri ve rehin tarihlerini bir deftere yazmak, ödünç süresi altı ayı geçenlere kitabın iadesini hatırlatmakla sorumluydu.
