Osmanlı Devleti'nde Avrupaî anlamda eğitim öğretim işleriyle ilgilenmek amacıyla öncelikle 1838 yılında Meclis-i Umûr-ı Nâfia teşkil edildi. Bu teşkilata bağlı olarak bir sene sonra müdürlük seviyesindeki Mekâtib-i Rüşdiye Nezareti kuruldu (1839). Bazı tarihçiler bu nezaretin Evkaf-ı Hümâyun Nezareti'ne bağlılığından dolayı Maarif Nezareti'ne giden ilk modern adım sayılamayacağını onun yerine Meclis-i Vâlâ ile Hariciye Nezareti'nin ortak denetimindeki önce Meclis-i Maârif-i Muvakkat (12 Nisan 1845), sonra Meclis-i Maârif-i Umûmiye'nin (21 Temmuz 1846), (8 Kasım 1846 tarihinde Mekâtib-i Umûmiye Nezareti adını aldı) kurulmasını ilk önemli girişim saymışlardır. Bu nezaret başarılı olunca 1846 yılında önce müdürlüğe daha sonra tekrar daha alt düzeyde bir bürokratik yapı kabul edilen nezarete dönüştürüldü. Böylece, o güne kadar bütünüyle şeyhülislamlık ve ilmiyeye bağlı bulunan eğitim ve bilgi dünyasının ilk defa bunların haricinde askerlerden ve bürokratlardan oluşan bir kurul tarafından idare edilmesinin önü açıldı. Mekâtib-i Umûmiye Nezareti'nin kurulmasıyla maarif işleri geleneksel eğitim sistemi olan medrese ve tekke-zaviyelerin dışında ibtidâî, rüşdî ve idâdî olmak üzere resmî üçlü bir yapı olarak tasarlanmıştı. Nezaretin kuruluş amaçlarından biri de maarifle ilgili ıslahatı tespit ve müzakere etmek, Avrupa'da olduğu gibi yeni bilim teknik ve sanatları öğretmek üzere bir dârülfünun kurmak ve orta eğitim kurumlarını oluşturmak ve denetlemektir. Aynı dönemde ayda bir toplanan Meclis-i Maârif-i Umûmiye'nin vazifesiyse maarifle ilgili değerlendirmelerde bulunmaktır.
1856 Islahat Fermanı'ndan sonra azınlık ve yabancılara birçok imtiyaz tanınması ve eğitim sahasındaki dengelerin hızla değişmeye başlamasından dolayı, eğitimle ilgili meclislerin sayısı ikiye çıkmıştır: Meclis-i Maârif ve Meclis-i Muhtelit-i Maârif. Ferman, ayırım gözetmeksizin gerekli şartları taşımaları halinde bütün tebaanın devlet okullarına girebileceğini ve her milletin kendi okulunu açabileceğini hükme bağlamıştır. Eğitim öğretimle alakalı yöntem, müfredat, ders kitapları ve öğretmenlerin seçimi bu meclislerin denetimine bırakılmıştır. Meclis-i Muhtelit'in üyeliklerine her milletten eşit sayıda üye seçilmiştir. Bu da müslümanların aleyhine olacak bir tablo ortaya çıkarmıştı. Gittikçe dağılmaya ve yönetimi zorlaşmaya başlayan yeni eğitim sisteminin idarî, malî ve ilmî bakımından denetimi amacıyla, 15 Mart 1857 tarihinde de eğitim işlerini yeniden yapılandırmak ve tek elden yürütmek için Maârif-i Umûmiye Nezareti kuruldu. Nazırlığa da Abdurrahman Sâmi Paşa getirildi. Böylece bugünlere kadar gelecek olan eğitim bakanlığının temeli atılmış oldu. Nezaret, Hey'et-i Vükelâ içinde nazır düzeyinde temsil edilmeye başlandı. Şeyhülislamlığa bağlı Mekâtib-i Umûmiye Nezareti ise 20 Nisan'da Maârif-i Umûmiye Nezareti'nin müsteşarlığına dönüştürülerek eğitim sisteminde sekülerleşme ve devletleşme yönünde büyük bir adım daha atılmıştır. Böylece asırlardır vakıflar, hayır severler ve dinî kurumlar eliyle yürütülen eğitim artık hükümet seviyesinde planlı ve merkezî bir teşkilat ile götürülmek istenmiştir.
Daha önceden üç kademeye ayrılan eğitim sistemi 3 Mart 1861 tarihinde hukukî olarak sıbyan, rüştiye ve fünûn-ı mütenevvia olarak taksim edildi. Yine Meclis-i Maârif'ten başka gerekirse onun da reyini almak ve birlikte toplanmak üzere nazırın maiyetinde üyeleri müslim ve gayrimüslimlerden oluşan eğitim sistemini geliştirmek, öğretmenlerin seçimi gibi konuları görüşmek ve gerekli yasal düzenlemeleri yapmak için Meclis-i Muhtelit tesis edildi. Böylelikle Maârif-i Umûmiye Nezareti merkez örgütü yeni bir danışma ve karar organıyla genişletildi. Ancak bu meclisler işlevlerini yerine getiremediklerinden 1864 yılında lağvedildi. Yerlerine nazırın başkanlığında iki komisyonlu Maârif-i Umûmiye Heyeti'nin altında Mekâtib-i Sıbyân-ı Müslime ve Mekâtib-i Rüşdiye ve İlmiye kuruldu. Bu komisyonlar ülkedeki bütün çocukların eğitimiyle vazifelendirildi. Ayrıca üyelerinin seçilmişlerinden haftada bir-iki gün toplanıp müzakere yapmaları için komite tesis edildi. Bu tarihte Maârif-i Umûmiye Heyeti eğitim işlerini tahkik ve tetkik etmek maksadıyla iki daireye ayrıldı: Dâire-yi Mekâtib-i Umûmiye ve Dâire-yi Mekâtib-i Husûsiye. 1864 yılında yayımlanan Matbuat Nizamnamesi'nden sonra 1865-66 yılında Avrupa'daki yeni bilgilerin düzenli bir şekilde Türkçe'ye aktarılması maksadıyla daha önceden Tercüme Odası ve ona benzer biçimlerde ifade edilen birim, nezarete bağlı Telif ve Tercüme Cemiyeti adını aldı.
Islahat Fermanı'yla Osmanlı Devleti'nin eğitim ideolojisi Osmanlıcılık şeklinde belirlenmişti. Ancak bu hedef istenildiği gibi sürdürülemedi, azınlık ve yabancıların devlet için zararlı olabilecek eğitim faaliyetleri arttı. Dahası 1866 yılındaki Girit İsyanı ile Avrupalı devletler Osmanlı Devleti'nin eğitim meselelerini de içeren bir reform paketi dayattılar. Bunun ve iç şartların etkisiyle 1 Eylül 1869 tarihinde Maârif-i Umûmiye Nizamnamesi yayımlandı (bk. Maârif-i Umûmiye Nizamnamesi). Bu yeni düzenlemenin en önemli tarafı nizamnamede geleneksel eğitim sisteminin hiçbir şekilde yer almaması idi. Bu nizamname Maarif Nezareti'nin en önemli hukukî zemini oldu ve etkisini bugünlere kadar devam ettirdi. Nizamnameye göre eğitim sistemi mekâtib-i umûmiye (genel devlet okulları) ve mekâtib-i husûsiye (müslüman ve gayrimüslim özel okulları) olmak üzere iki ana kategoriye ayrıldı. Bu kısımlar kendi içinde daha alt tasniflere bölündü. Maârif-i Umûmiye Nizamnamesi'nin ön gördüğü en önemli yeniliklerden biri de nazırın başkanlığında ilmî ve idarî iki daireden oluşan Meclis-i Kebîr-i Maârif'in kurulması idi. Bu meclis, ders programlarını, ders kitaplarını, kütüphaneleri ve diğer bilumum eğitim faaliyetlerini takip etmekle görevlendirildi. Maarif Nezareti'nin pedagojik, idarî ve denetim yönünden üst bir mekanizması olan bu yapı Cumhuriyet dönemine gelindiğinde (1926) Talim ve Terbiye Dairesi adını aldı.
1872 yılında Meclis-i Kebîr-i Maârif bünyesinde Rumeli Yakası Mekâtib-i Rüşdiye ve Sıbyâniye Müfettişliği ile Anadolu Yakası Mekâtib-i Rüşdiye ve Sıbyâniye Müfettişliği kuruldu. Taşrada da okullar yaygınlaştığından Meclis-i Kebîr-i Maârif'in birer şubesi olarak Vilayet Maarif meclisleri, Vilayet Maârif-i İbtidâiye meclisleri oluşturuldu. 1879 yılından itibaren maarif müdürlüğü ve meclislerinin bulunduğu yerlere birer müfettiş tayin edildi.
Maarif Nezareti Kanûn-ı Esâsî'nin yayımlanmasının da (1876) etkisiyle 1879 yılında mekâtib-i âliye, mekâtib-i rüşdiye, mekâtib-i sıbyâniye, telif ve tercüme ve matbaalar olmak üzere beş ana daireye ayrıldı. Daimi Meclis-i Maârif'in üyeleri de daire müdürlerinden oluşturuldu ve encümen durumuna düşürüldü. Ama idâdîlerin çoğalması ve bazı temel ıslahata karar verilmesi üzerine 1884 yılında yeniden açıldı.
Maarif Nezareti büyük ölçüde İstanbul'da faaliyet gösterdi, ancak 1869 yılından itibaren merkezle çevre arasındaki bağlantıyı sağlayacak kurumlara ihtiyaç duyuldu. Bu sebeple Küçük Said Paşa ve Münif Paşa'nın önderliklerinde 1882 yılından itibaren vilayet ve kaza maarif müfettişlikleri tesis edilmeye başlandı. Maarif müdürlerinin maiyetinde Vilayet Maarif meclisleri kazalarda Kaza Maarif Şubesi ve bazı kasabalarda da Kasaba Maarif şubeleri kuruldu. Bu kurullarda yerel eşraf, esnaf ve idareciler söz ve sorumluluk sahibi oldu. Böylece Maarif Nezareti'nin taşra teşkilatı bu tarihten itibaren belirmeye ve genişlemeye başladı.
1881 yılında Mekâtib-i Sıbyâniye Dairesi'nin adı Mekâtib-i İbtidâiye şekline dönüştürüldü. Bu değişiklikle nezaret ilköğretimde "sıbyan mektepleri"nin zihinlerdeki çağrışımını silip ibtidâî kelimesiyle yeni bir anlayış getireceğinin ve usûl-i cedit üzere eğitim öğretim yapan okullara ağırlık vereceğinin işaretini vermektedir. 1882 yılında vilayetlerde teftiş ve merkeziyetçiliğin arttırılması gayesiyle maarif müdürleri maiyetine daha fazla müfettiş tayin edilmeye başlandı.
1886 yılında öncelikle azınlık ve yabancı okullarını teftiş etmekle görevli Mekâtib-i Gayrimüslime ve Ecnebiye Müfettişliği kuruldu. Bu dönemde taşrada liva, kaza ve köy okullarının teftişi seyyar müfettişler eliyle yürütülmeye çalışıldı. Mekâtib-i Rüşdiye Dairesi'nin adı Mekâtib-i Rüşdiye İdaresi, Mekâtib-i Âliye Dairesi'ninkiyse Mekâtib-i Âliye İdaresi oldu. 1887 yılında bütün müfettişler Me'mûrîn-i Teftîşiye Dairesi'ne bağlandı. Bu dairede ilk defa olarak Milel-i Gayrimüslime ve Ecnebi Mektepleri Müfettişliği ve İdâdî Müfettişliği kuruldu. 1892 yılında bu müfettişliğe Rumeli Vilayetleri Maarif Müfettişliği eklenip iki yıl sonra kaldırıldı. Ayrıca Mekâtib-i Âliye Müfettişliği'nin adı Mekâtib-i Âliye ve Husûsiye Müfettişliği oldu. 1892'de ortaöğretim güçlendirilmeden yükseköğretim için yapılacak çabaların boşa gideceği düşüncesiyle Mekâtib-i Âliye Dairesi yerine Mekâtib-i İdâdiye İdaresi kuruldu.
Böylece modern Osmanlı eğitim sisteminin taşra teşkilatı 1892 yılında büyük oranda tamamlanmış oldu. Fakat ülkenin genişliği, ekonomik sorunlar, etnik ve dinî karmaşa, göçler gibi sorunlardan dolayı okulların büyük kısmı ıslah edilememişti. Buna öğretmenlerin yetersizliği ve halkın eğitimsizliği de eklenince müfettişlerin gerçek mânada teftiş yapmaları büyük oranda mümkün olamadı.
II. Meşrutiyet'in ilanından sonra Maarif Nezareti'nde de bir dizi değişime gidildi. Başta personelinde tensikat yapıldı. Meclis-i Kebîr-i Maârif daimi encümene dönüştürülüp 1869 hükümlerine uygun olarak ikiye ayrıldı. Nezaretin merkez birimleri, Tedrîsât-ı Tâliye, Tedrîsât-ı İbtidâiye, Mekâtib-i Husûsiye, Tahrirat, Muhâsebat, Sicill-i Ahvâl, İstatistik, Levazım ve Evrak dairlerinden oluşturuldu. 1909 yılında Mekâtib-i İdâdiye, Mekâtib-i Rüşdiye, Mekâtib-i İbtidâiye ve Mekâtib-i Husûsiye idareleri yerlerini korudu. Ayrıca Teşkilat Sandığı ve İâne-yi Mekâtib Komisyonu da organlar arasında yerini almıştır. Bu dönemde Meclis-i Kebîr-i Maârif'in Dâire-yi İlmiye ve Dâire-yi İdaresi birleştirilmiş, müfettiş-i umûmîlik ve merkez maarif müdürlüğü kaldırıldı.
II. Meşrutiyet döneminde Avrupa'da okuyan öğrenciler için Avrupa Talebe Müfettişliği ihdas edildi. 1910 yılında Tedrîsât-ı Âliye Dairesi eklendi, müfettişler Meclis-i Kebîr-i Maârif'e bağlandı. Vilayet merkezlerinde birer maarif müfettişi ve liva merkezlerindeyse birer ilkokul müfettişi çalıştırılması kararı alındı. Vali, kaymakam, mutasarrıf ve müfettişler yoluyla eğitim öğretimin sıkı denetlenmesine gayret gösterildi. Hem memurluk hem öğretmenlik yapanların ders vermediği günlerde maaşlarının kesilmesine karar verildi.
Maarif Nezareti 1911 yılında merkez hizmetleri idare ve teftiş olmak üzere ikiye ayrıldı. Ayrıca Mekâtib-i İbtidâiye İdaresi yerine Tedrîsât-ı İbtidâiye Dairesi, Mekâtib-i Rüşdiye İdaresi yerine Tedrîsât-ı Tâliye Dairesi, Mekâtib-i İdâdiye İdaresi yerine de Tedrîsât-ı Âliye Dairesi tesis edildi. Bunlardan her biri kendi içinde çeşitli şubelere ayrıldı. Tedrîsât-ı İbtidâiye Dairesi 1. Me'mûrîn ve Muallimîn, 2. Tedrisat, 3. Teftiş, 4. Hesâbât, 5. Teşkilat kısımlarına ayrıldı. Ayrıca Tedrîsât-ı İbtidâiye Dairesi'ne dahil olmak üzere Tedrîsât-ı İbtidâiye Encümeni kuruldu. Bu beş şube 1914 yılında iki şubeye düşürüldü: l. Me'mûrîn ve Muallimîn, 2. Teşkilat ve Tedrisat, Tedrîsât-ı Rüşdiye Dairesi üç şubeye ayrılmıştır: 1. Teşkilat ve Tedrisat, 2. Me'mûrîn ve Muallimîn, 3. Hesâbât. 1914'te şubelerin sayısı ikiye düşürüldü: l. Me'mûrîn ve Muallimîn, 2. Teşkilat ve Tedrisat. Tedrîsât-ı Âliye Dairesi, 1911 yılında birinci, ikinci ve üçüncü şube olmak üzere üçe ayrıldı. Bu dairenin şube sayısı 1914 yılında ise ikiye düşürüldü.
1911 yılında Maârif-i Umûmiye Nezareti Müsteşarlığı ve Meclis-i Maârif görevleri birbirinden ayrıldı. Avrupa'daki talebelerin idaresi için müdürlük düzeyinde Avrupa'daki Talebe-yi Osmâniye Nezareti kuruldu. Bu nezaret Cumhuriyet dönemine kadar varlığını sürdürdü.
Meclis-i Kebîr-i Maârif 9 Mart 1912 tarihinde yeniden kurularak daimi ve senevî olarak iki kısma ayrıldı. Ayrıca muallim ve müfettişlerden oluşan Daimi Meclis-i Maârif ihdas edildi. Öğretim daireleri "âliye, tâliye ve ibtidâiye" olarak üçe indirildi. İlköğretim için Tedrîsât-ı İbtidâiye Encümeni ve okul yapım ve onarım işleri için de Mebânî-yi Tedrîsiye Encümeni oluşturuldu. Ayrıca belli sayıda vilayet maarif ve okul müdürleriyle öğretmenler ve dışarıdan sınırlı sayıda uzmanın katılımıyla Meclis-i Kebîr-i Maârif'in senede bir kere toplanması kararlaştırıldı. Mekâtib-i ibtidâiye için yabancı dildeki muhtelif ders kitaplarını tercüme etmek üzere Telif ve Tercüme Heyeti de yeniden oluşturuldu. Okulları denetleme, hizmet içi eğitim, eğitim planlaması ve propagandası için müfettiş-i umûmîlik eskiden olduğu gibi devam ettirildi. Ancak gelen sert tepkiler üzerine kaldırıldı.
Yabancı okulların ruhsatları 1912'ye kadar nezaretçe verilirken, yetki 1912'de vilayetlere geçti, 1914'te de kapitülasyonların kaldırılmasıyla tekrar nezarete aktarıldı. Savaş sırasında ve sonrasında nezaretin yetkileri hayli daraltıldı. Program hazırlama ve yabancı öğretmen konularında azınlık ve yabancı okulların denetlenme meselesi bu dönemde devam etti. Bütün tedbirlere rağmen müfettişlerin çoğunun görevlerini benimsemedikleri, köyleri dolaşmak yerine vilayetlerde zaman geçirdikleri anlaşılınca 1914'te bazı vilayetlerin maarif müfettişliklerini lağvetti ve görevlerini maarif müdürlerine verdi.
Taşrada sıbyan ve ibtidâî okulların ıslahı ve ihtiyaç görülen yerlerde yeniden ibtidâîlerin açılmasıyla meşgul olmak için vilayetlerde birer Daimi Maarif Encümeni kuruldu ve İstanbul içinde de mektep encümeni şubeleri açıldı. Kaza, liva ve bazı karyelerde birer maarif encümeni kuruldu. Kazalarda ayrıca fahri maarif vekillikleri ihdas edildi. Karyelerde ihtiyar meclisleri, nahiyelerde nahiye meclisleri maarif işlerinden sorumlu maarif encümeni hükmünde kabul edildi. Yine vilayetlerde birer Vilayet Tedrîsât-ı İbtidâiye Encümeni, livalardaysa Liva Maârif-i İbtidâiye Meclisi kuruldu.
1913 Tedrîsât-ı İbtidâiye Kanûn-ı Muvakkati ile ilköğretim müfettişlikleri tesis edildi. Aynı yıl Mekâtib-i Husûsiyenin Islahı Komisyonu, Muâmelât-ı Kuyudiye Komisyonu ve program, kitap, yasa konularında yetkili dört ayrı komisyon kuruldu. Vilayet merkezlerindeyse Tedrîsât-ı İbtidâiye Meclisi, livalarda da Liva Mekâtib-i İbtidâiye Meclisi oluşturuldu.
1914 yılında Maârif-i Umûmiye Nezareti Teşkilatı Hakkında Nizamname ile nezaret, çalışma esaslarını maarif meclislerinin kararıyla yürütme kararı aldı. Bu tarihte Meclis-i Kebîr-i Maârif encümenlere ayrılarak âdeta lağvedildiyse de mütareke döneminde yeniden açıldı.
Yetim çocuklara bakmak ve eğitmek için dârüleytamları yönetmek üzere nezaret bünyesinde 1917'de Dârüleytamlar Müdüriyet-i Umûmiyesi tesis edilerek bu görev 1920 yılında Dahiliye Nezareti'ne nakledildi. İstanbul'un işgal edilmesi ve Osmanlı Mebusan Meclisi'nin tatil edilmesi sonrasında 4 Mayıs 1920 tarihinde Ankara'da Maarif Vekâleti kuruldu. 1920-1922 yılları arasında iki Maarif Nezareti hukuken varlığını korurken Ankara'da Maarif Vekâleti fiilen hizmete başladı. 1 Kasım 1922 tarihinde saltanatın kaldırılmasıyla İstanbul'daki Maarif Nezareti işlevsiz kalarak sona erdi. Tanzimat döneminde yeni kurulmaya başlanan modern eğitim öğretim işlerini her yönüyle idare etmek üzere 1857 yılında kurulan Maarif Nezareti, 1920'de Maarif Vekâleti adını aldı ve ilerleyen senelerde yeni devlet çatısı altında Millî Eğitim Bakanlığı adıyla görevini sürdürmeye devam etti (bk. Millî Eğitim Bakanlığı).
Maarif Nezareti'ni 1857-1922 yılları arasında kırk nazır temsil/idare etmiştir. Bunlardan on dokuzu 1908'e kadar yirmi biri de II. Meşrutiyet döneminde görev yapmıştır. İlk Maarif nazırı Abdurrahman Sâmi Paşa'dır. Tanzimat ve II. Abdülhamid döneminin önde gelen maarif nazırları Ahmed Kemal Paşa (beş defa), Ahmed Cevdet Paşa (üç defa), Ahmed Vefik Paşa (dört defa), Münif Paşa (üç defa), Ahmed Zühdü Paşa ve Hâşim Paşa'dır. Bunların içinde toplamda dokuz yıl üç ay bakanlık yapan Münif Paşa Osmanlı maarifinin modernleşmesinde ve Avrupa kurum, kültür, düşünce ve uygulamalarının aktarılmasında başat konumda olmuş bakanların başında gelir (bk. Münif Paşa). II. Abdülhamid döneminin en önde gelen, güvenilir, mahir maarif nazırının ise Ahmed Zühdü Paşa olduğu kaydedilir. 1891'den 1902'ye kadar aralıksız on yıl yedi ay nazırlık yapan Zühdü Paşa Türk maarif tarihinin en uzun süre görev yapan bakanı olmuştur. II. Abdülhamid'e atfedilen pek çok eğitim reformunun ve yeniliğin altında onun imzası vardır (bk. Ahmed Zühdü Paşa).
II. Meşrutiyet döneminde Maarif Nezareti'nde çok sık değişim görülmekle birlikte İttihat ve Terakkî Cemiyeti'nin Maarif nazırı olarak bilinen ve millî politikalarıyla ön plana çıkan Ahmed Şükrü Bey 1913'ten 1917'ye kadar nezareti idare etmiştir. Bu dönemde felsefeci Emrullah Efendi, tarihçi Abdurrahman Şeref, Nâil Bey, Nazım, Rıza Tevfik, gazeteci Ali Kemal gibi isimler nazırlık yapmıştır. Millî Mücadele döneminin son Maarif nazırı İsmâil Safa olurken, Cumhuriyet'in ilk Maarif vekili de yine aynı isim olmuştur.
