Sultan Alparslan'ın malî işlerinden sorumlu veziri olan Şerefülmülk Ebû Sa'd Hârizmî (ö. 1100) tarafından 1067 yılında İmâm-ı Âzam Ebû Hanîfe'nin (ö. 767) kabrinin yanında inşa edilmiştir. Hanefî mezhebinin kurucusu Ebû Hanîfe'ye nispetle "Medresetü'l-İmâm Ebî Hanîfe veya Meşhedü Ebî Hanîfe", medresenin kurucusuna nispetle "Medresetü Şerefülmülk" ve "Medresetü'ş-Şerefiyye" adlarıyla anılmıştır. Ayrıca türbe ve medrese etrafında gelişen yapılar topluluğuna Âzamiye Kalesi ve Âzamiye Külliyesi adları verilmiştir.
Sultan Alparslan ve Melikşah dönemlerinde Dîvânü'l-İstîfâ başkanlığını üstlenmiş olan Şerefülmülk Ebû Sa'd Hârizmî Alparslan'ın buyruğu üzerine 2 Ocak 1067 tarihinde Bağdat'a gelerek sultanın mektubuyla birlikte hediyelerini Halife Kaim-Biemrillâh'a (1031-1075) takdim etmiştir. Nizâmülmülk'ün (ö. 1092) nâiplerinin Bağdat'ta Şâfiîler için bir medrese inşa ettiklerini öğrenmesi üzerine benzer bir medreseyi Hanefîler için kurmak üzere çalışmalara başlamıştır. Kısa bir inşa sürecinin ardından İmâm-ı Âzam Medresesi 15 Mayıs 1067 tarihinde eğitime açılmıştır. Nizamiye Medresesi'nin açıldığı 22 Eylül 1067 tarihinden dört ay on üç gün önce eğitime açılmış olması sebebiyle Irak'ta kurulan ilk medrese kabul edilmektedir.
Medrese, Ebû Hanîfe'nin vefatından sonra türbesinin etrafında gelişen eğitim faaliyetlerinin kurumsal bir yapıya dönüşmesini temsil eder. İnşasıyla ilgili kayıt, 983 yılında Ebû Ca'fer Zemmâm'ın türbe binası ve yanında ilim talebelerine mahsus bir suffe yaptırması hakkındadır. Mescid-i Nebevî gibi, mescidin yanında talebelerin barınabileceği hücrelerin yapıldığı ve Hanefî fıkıh eğitiminin teşvik edildiği görülmektedir. Öte yandan, medresenin kurulmasıyla mescitteki derslerin sona ermediği, mescitteki derslerin medreseye paralel olarak devam ettiği bilinmektedir. 28 Mayıs 1208 tarihinde İmâm-ı Âzam Medresesi müderrisliğine atanan Ziyâeddin Ahmed Türkistânî'nin tayin beratında, türbe (meşhed) ve medresedeki eğitimlerin iki ayrı program olarak ifade edilmesi, bu durumu doğrulamaktadır.
Ebû Hanîfe Türbesi, Selçuklu sultanlarının özel ilgisine mazhar olmuştur. Tuğrul Bey'in Bağdat'a girişinden (1055) önce, türbenin harabe halde olduğu ve ismi belirtilmeyen bir Türk emîr tarafından kabrin üzerine bir kubbe yaptırıldığı bilinmektedir. Şerefülmülk 1061/1062 yılında Bağdat'a geldiğinde eski türbe binasını ve yanındaki mescidi yıktırmış, alanda bulunan yaklaşık 400 mezarı başka bir yere naklettirerek türbenin ve önündeki mescidin temellerini attırmıştır. Türbenin inşası tamamlandığında, Ebû Ca'fer Beyâzî'nin "Görmedin mi, ilim paramparça olmuştu, Şu lahitteki zat onu cemetti, Keza bu topraklar da ölü haldeydi, Onu Amîd Ebû Saîd'in cömertliği diriltti" mealinde bir şiir yazdığı kaydedilmiştir. İbn Cübeyr, Bağdat ziyareti sırasında (1184), yukarıdaki şiirin Ebû Hanîfe Türbesi'nin beyaz renkli yüksek kubbesinde yazılı olduğunu not etmektedir. 1508 yılında Safevîler'in Bağdat'ı işgali sonrasında Ebû Hanîfe Türbesi tahrip edilmiştir.
Medrese, zaman içinde birçok tadilat ve tamirat görmüştür. Kanûnî Sultan Süleyman'ın (1520-1566) Irakeyn seferi sırasında yeniden yaptırılan medrese, türbe ve camiden oluşan yapılar topluluğuna minare, han, hamam, imaret ve ribat eklenerek etrafı surlarla çevrilmiştir. 150 asker, kale kumandanı (dizdar), cephane ve toplarla tahkim edilerek Âzamiye Kalesi adı verilen müstahkem bir kaleye dönüştürülmüştür. Evliya Çelebi'nin kaydına göre 8000 adım uzunluğunda tuğladan yapılmış surlarla çevrili olan kale, aşağı ve yukarı olmak üzere iki kapıya sahipti. Medrese, caminin kıble duvarı boyunca uzanmaktaydı. İki katlı ve geniş avlulu medresenin birinci katı sivri kemerli revaklarla çevrilmişti. Medrese ve diğer yapılar 1639 yılı Irak seferi sırasında Sultan IV. Murad'ın (1623-1640) emriyle kapsamlı bir tadilat geçirmiştir. Külliyenin gördüğü son kapsamlı tadilat ise Sultan Abdülaziz'in annesi Pertevniyal Valide Sultan (ö. 1884) tarafından 1871 yılında gerçekleştirilmiştir. Medrese, 1935-1937 yılları arasında yapılan değişiklikler kapsamında Irak Hâşimî Krallığı tarafından külliyeyi çevreleyen duvarlarla birlikte yıkılmıştır.
İmâm-ı Âzam Medresesi, aynı zamanda ziyaretgâh olan Ebû Hanîfe Türbesi ve Mescidi ile birlikte büyük vakıf gelirlerine sahipti. Vakıfların idaresi şart-ı vâkıf gereği müderrislik kürsüsünü elinde bulunduran başmüderrislerin sorumluluğuna bırakılmıştı. Müderris, vakıf gelirlerini herhangi bir ziyade ya da eksiltme olmaksızın vakfiyede beyan edilen kurallara uygun olarak harcamalı ve en ufak bir sapma göstermemeliydi. Vakıf gelirlerini arttırmaya gayret etmeli, namuslu, kanaatkâr ve güvenilir insanlar görevlendirmeli, işlerin düzgün şekilde yürütülmesini sağlamak ve vakıf gelirlerinin heba olmasını önlemek için gereken tedbirleri almalıydı.
Başta hac yolculukları olmak üzere çeşitli vesilelerle dünyanın dört bir yanından türbeyi ziyarete gelen âlimlerin burada ders halkaları tertip etmeleri ve ilmî münazaralar gerçekleştirmeleri türbede bağışlarla zenginleşen bir kütüphanenin ortaya çıkmasını sağlamıştır. Türbe ve mescit kompleksinin içinde geliştiği anlaşılan kütüphanenin, kuruluşunun ardından medrese bünyesine alındığı ve kurumsal bir yapı özelliği kazandığı anlaşılmaktadır. İmâm-ı Âzam Medresesi Kütüphanesi, Arap edebiyatının meşhurlarından Câhiz'in (ö. 869) eserlerinin büyük çoğunluğunu ihtiva etmekteydi. Minhâcü'l-Beyân müellifi hekim, edip ve tarihçi İbn Cezle (ö. 1100) vefatından hemen önce kitaplarının tamamını İmâm-ı Âzam Medresesi Kütüphanesi'ne vakfetmiştir. Kütüphaneye bağışta bulunan isimlerden biri de Cârullah Zemahşerî'dir (ö. 1144). Geriye kalan bir mushaf dışındaki kitaplarının tamamını İmâm-ı Âzam Medresesi Kütüphanesi'ne bağışlamıştır.
Kütüphane, başmüderrise karşı sorumlu olan "hâzin" veya "müşrif" unvanına sahip bir müdür tarafından yönetilmekteydi. Kendisine itimat edilen kişilerin, rehin bırakmaları şartıyla kütüphaneden kitap alabilmeleri istisna olmak üzere, kütüphaneden herhangi bir surette kitap çıkarılmazdı. Fakih Abdülazîz b. Ali İbn Ebû Sa'd Hârizmî (ö. 568'den sonra) ve Şeyh İbnü'l-Ehvazî (ö. 569), İmâm-ı Âzam Medresesi Kütüphanesi müdürü olarak görev yaptığı tespit edilen kişiler arasındadır.
İmâm-ı Âzam Medresesi müderrislerinin tayini, 28 Mayıs 1208 tarihli müderris atma belgesine göre, Hanefî mezhebine bağlı olan, derin fıkıh bilgisine sahip, ilmine, faziletine ve liyakatine güvenilen fakihler arasından yapılıyordu. Medrese ve vakıflarının yönetimi olmak üzere iki ayrı görevi bulunan müderris, hizmetinin karşılığında İmâm-ı Âzam Medresesi vakıflarının gelirlerinden aylık 30 kafîz ölçeğinde arpa ve 10 dinar maaş almaktaydı; ayrıca müderrislere mahsus diğer hak ve imtiyazlardan da faydalanıyordu. Müderrislerin öncelikli görevleri arasında, derslerin en iyi şartlarda ve bilinen en etkili yöntemlerle işlenmesini sağlamak bulunmaktaydı. Vakıf nizamına göre, dersler Kur'an-ı Kerim tilavetiyle başlamakta; günün ilk oturumundan sonra mezhep usulüne dair bir bölüm işlenmekte; ardından, müptedi, mütevassıt ve müntehî talebelere, seviyelerine uygun konularda mezhep, usul (müfredat), fürû ve müşkülat dersleri verilmekte, son olarak hilaf mesaili okutulmaktaydı. Öğrencilerin derslere disiplinli bir şekilde devam etmeleri, tekrar yapmaları, ezberlerini pekiştirmeleri, bilgilerini güçlü ve kalıcı hale getirmeleri için gerekli önlemleri almak da müderrisin sorumluluğundaki konular arasında yer almaktaydı.
Medresede, müderrisler, müderris nâipleri, muidler, kütüphane görevlileri ve ferraşlardan oluşan kalabalık bir kadro görev yapmaktaydı. Ayrıca vakıf gelirlerini tahsil eden âmil ve muhassıllar ile onlara yardımcı diğer personelin bulunduğu anlaşılmaktadır. Vakfa bağlı olarak hizmet veren ve kaynaklarda "zaviye" olarak adlandırılan imarette ise muhtemelen aşçılar ve yardımcıları görev yapmaktaydı.
İmâm-ı Âzam Medresesi'nde görev yapan müderrislerin önemli bir kısmı Bağdatlı değildir ve aynı aileden birden fazla müderris bu kurumda görev almıştır. Bu aileler arasında Zeynebîler, Beldecîler ve Lamgânîler öne çıkmaktadır. İmâm-ı Âzam Medresesi'nin müderrislik kadrosuna ilk defa İlyâs b. Nâsır Deylemî (ö. 1069) atanmıştır. Nûrü'l-Hüdâ Zeynebî (ö. 1118), Abdullah b. Mahmûd Mevsılî (ö. 1284), İbnü'l-Fasîh (ö. 1354), Hüsâmüddin Siğnâkî (ö. 1369) ve İtkânî (ö. 1357) gibi meşhur fakihler de medresede müderrislik yapmışlardır. Müderrislerinden bazıları İmâm-ı Âzam Medresesi'ndeki görevlerinin yanı sıra diğer kurumlarda da görev almışlardır. Örneğin Ziyâeddin Ahmed Türkistânî Câmiu'l-Kasr'daki hadis halkasına devam ettiği için haftanın iki günü medresede ders verirken, diğer günlerde nâibi olarak tayin ettiği Ebü'l-Ferec Abdurrahman b. Şücâ derslere devam ediyordu. Nûrü'l-Hüdâ Zeynebî ise müderrislik görevine ilave olarak Bağdat nakîbü'n-nükebâlığı, Bağdat Hanefîleri'nin reisliği ve elçilik gibi önemli görevler üstlenmiştir.
İmâm-ı Âzam Medresesi Hanefî fıkhı öğretilmek şartıyla vakfedilmiştir. Ancak fıkıh eğitimine destek olmak amacıyla sarf, nahiv, kıraat, tefsir, hadis, akait, şiir, edebiyat, cebir ve hendese gibi muhtelif ilimlere dair eserlerin de okutulduğu anlaşılmaktadır. Kaynaklar Ebû Abdullâh Hüseyin Belhî'nin Menâkıbu Ebî Hanîfe adlı eserinin ve İmam Tahâvî'nin Şerhu Meâni'l-Âsâr'ının medresede okutulduğunu teyit etmektedir. Ayrıca müderrislerden Ebü'l-Hasan Yezdî'nin, Muhammed Şeybânî'nin Câmiu's-Sagîr'ine şerh kaleme alması, Şeybânî'nin eserinin İmâm-ı Âzam Medresesi hocalarının ders kaynakları arasında olduğunu göstermektedir. Abdullah b. Mahmûd Mevsılî'nin (ö. 1284) el-Muhtâr adlı eserini öğrencilerinin talebi üzerine şerhettiğini bildirmesi, bu eserlerin medresede okutulduğuna işaret etmektedir. Ayrıca Pezdevî'nin (ö. 1089-1090) Kenzü'l-Vüsûl ilâ Ma'rifeti'l-Usûl'ü, Cârullah Zemahşerî'nin (ö. 1143-1144), Mergînânî'nin el-Hidâye'si, Siğnâkî'nin en-Nihâye fî Şerhi'l-Hidâye'si, Nesefî'nin (ö. 1310-1311) Kenzü'd-Dekaik'i gibi temel metinlerin İmâm-ı Âzam Medresesi'nde okutulduğu anlaşılmaktadır.
