Osmanlı Devleti teşkilat yapısında ilmiye, seyfiye (askerî zümreler) ve kalemiye (memurlar) olmak üzere üç temel meslek grubu vardı. İlmiye sınıfı kazasker, şeyhülislam, nakîbüleşraf, müderris ve kadı gibi görevlileri kapsıyordu. Genel olarak ilmiye medreseden icazet alarak mezun olduktan sonra eğitim, hukuk, fetva, temel dinî hizmetler alanlarında devletin ilgili makamlarında görev yapan ekserisi müslüman ve Türkler'den oluşan bir sınıftır. Devlet teşkilatında ilmiyenin belirgin ve müessir bir yapı olarak ortaya çıkması İstanbul'un fethinden XVII. yüzyıla kadar olan zaman diliminde gerçekleşmiştir. Bu süreçte kendine has nizamı içerisinde gelenekleri oluşmuş, kuralları ve sınırları belirlenmiş özellikle eğitim ve yargı alanlarında yetkileri ve sorumlulukları tebarüz etmiştir.

Osmanlı ilim geleneği diğer Türk-İslam devletlerinde olduğu gibi daha önceki tecrübelerin birikimi üzerine gelişen bir ilmin ve kültürün anlayışını yansıtır. Kuruluş dönemine ait yeterli veri ihtiva eden kaynakların neredeyse bulunmayışı ilk padişahlar zamanındaki ilmî hayata dair bilgilere ulaşmayı zorlaştırmaktadır. İlk Osmanlı kronikleri Osman Bey'in ilme değer verdiğini, çevresinde hürmet ettiği bazı âlim ve şeyhlerin bulunduğunu kaydeder. Orhan Bey zamanındaki (1324-1362) ilim hayatı daha net bilinebilmektedir. İlk medrese 1336 yılında İznik'te açılmış ve Dâvûd-ı Kayserî müderrisi olmuştur. Ayrıca yeni fethedilen yerlerde de kadılar tayin edilmiştir. I. Murad (1362-1389) ve Yıldırım Bayezid (1389-1403) dönemlerinde medreseler açılmaya devam edilmiş, eğitim ve yargı teşkilatı kurulmaya başlanmıştır. Nitekim kazaskerlik teşkilatı da 1362 yılında tesis edilmiştir.

Bu dönemde âlimlerden istifade etme gittikçe yerleşen devlet ve toplum düzeni içerisinde ilmiyeye mensup kişilerin vezirlik, kadılık, kazaskerlik, defterdarlık, nişancılık gibi önemli konumlarda ve hizmetlerde bulunmaları ayrıca padişahın hemen yanında danışmanlık ve hocalık gibi görevler yapmaları görünür haldedir. Osmanlı Devleti'nde ilmiyenin kaynağını dönemin geçişkenliği içerisinde diğer Türk-İslam devletleri yanında yavaş yavaş kendi sınırları içerisinde de kurumsallaşmaya başlamış olan eğitim ve medrese geleneğini oluşturuyordu. Bunun yanı sıra İslam dünyasının çeşitli merkezlerinden belirli zamanlar için muvakkaten gelen tanınmış âlimler de bulunurdu. Ayrıca bazı Osmanlı padişahlarının özellikle İslam memleketlerine yaptıkları seferlerden sonra beraberlerinde çok sayıda âlim ve sanatkârla döndükleri de bilinmektedir.

Fâtih Sultan Mehmed'in zamanında (1451-1481) bir dönüşüm yaşayan devlet teşkilatıyla beraber önemli bir zihniyet değişimi de gerçekleşmiştir. Bu durum Fâtih Kanunnamesi'nde yer verilen ilmiye sınıfıyla ilgili hükümlerde açıkça görülür. Artık devlet içerisinde ilmiye, seyfiye ve kalemiye şeklindeki tasnif belirginleşmiş, bu sınıfların oluşum aşamaları, tahsilleri ve görev yapacakları yerler ve sınırlar tedrîcen tanımlanmaya başlanmıştır.

İlmiye sınıfı da tıpkı yöneticiler gibi çeşitli imtiyazlara sahip kılınmıştır. Bu imtiyazlar genel olarak askerlikte, vergilerde ve cezalarda olup diğer yöneticilere kıyasla sınırları daha geniş şekilde belirlenmiştir: Mesela askerî sınıfın ehl-i örf kesimini oluşturan kapıkulu ve diğerlerine idam dahil her türlü ceza verilebilirken ilmiye sınıfına idam cezası verilmesi çok nadirdi. En ağır ceza görevden azil veya sürgün oluyordu.

Ayrıca ilmiyeye mensup kişilerin aile ve çocuklarına da tanınan imtiyazlar söz konusu idi. Başlangıçta ilmi teşvik etmek ve ilim geleneğini devam ettiren aileler oluşturmak için ilk defa Molla Fenârî ailesi için II. Murad tarafından başlatılan imtiyaz uygulaması zamanla aşınmış, bu durum ilmiye mesleğindeki zaafların ana sebeplerinden biri olarak gösterilmiştir.

Öyle ki Osmanlı Devleti'nde zaman içerisinde yirmi civarında ilmiye ailesinin ilmiye makamlarını elde etmesiyle mesleğe girmek isteyen başka kimselerin önüne engeller çıkmaya başlamıştır. Bu ailelerin en bilinenleri Çandarlılar, Fenârîzâdeler, Çivizâdeler, Ebüssuûdzâdeler, Müeyyedzâdeler, Taşköprizâdeler, Bostanzâdeler, Hoca Sâdeddinzâdeler, Kınalızâdeler, Zekeriyâzâdeler, Paşmakçızâdeler, Dürrîzâdeler, Arabzâdeler, Feyzullahzâdeler, Ebûishakzâdeler ve İvazpaşazâdeler idi. Genel olarak bir kimse eğer bu ailelere mensup değilse ilmiye mesleğinde ilerlemek için mülazemet denilen bir uygulamaya tâbi tutulurdu. Mülazemet sistemine göre medreseden mezuniyetten sonra müderrislik veya kadılık görevine tayin edilinceye kadar bir çeşit staj yapılırdı. Daha sonra müderrislik veya kadılık görevi yapan kişi yeniden bu görevlere tayin edilinceye kadar belirli bir süre bekleme durumunda idi (bk. Mülazemet).

Gerek devletin tanıdığı imtiyazlar gerek zaman içinde oluşan güçlü itibar ile Osmanlı ilmiye mesleği ülke çapında binlerce mensubu bulunan Anadolu, Rumeli ve Hicaz'da kendine has düzen içerisinde eğitim, yargı ve dinî hizmetleri tekeline alan büyük bir teşkilat oldu.

İlmiye mesleğine giriş için medrese eğitimi temel kaynak idi. Orhan Bey tarafından İznik Medresesi'nin kurulmasından başlayarak vakıfların ve devletin himayesiyle Osmanlı ülkesine yayılan medrese sistemi, Fâtih Sultan Mehmed'in yaptırdığı Sahn-ı Seman medreseleri ve Kanûnî Sultan Süleyman'ın inşa ettirdiği Süleymaniye medreseleri sayesinde çok gelişmiştir. Osmanlı ilim geleneğinde dönüm noktalarını teşkil eden bu kurumlar gerek görünümleri ve imkânları gerekse eğitim programları ve kütüphaneleriyle zirveyi temsil etmiştir. Zamanla ayrıca medrese eğitim sistemi ve aşamaları da kurumsallaşma sürecini tamamlamış ve geleneğini oluşturmuştur. Buna göre medrese eğitiminin seviyesi, derecesi okunan derslere, hocalara ödenen ücrete ve XVII. yüzyıldan itibaren de kullanılmaya başlanan on ikilik dereceye göre belirlenmektedir. Bu durum genel hatlarıyla devletin sonuna kadar devam etmiştir (bk. Medrese).

İlmiye sınıfının bir diğer görev alanı adalet kurumu idi. Osmanlı Devleti'nde daha beylik döneminden itibaren fethedilen yerlere birer kadı tayin edilmesi usulü vardı. Bu usul ile bir yerin Osmanlı idaresine kesin olarak girmesinin tamamlandığı anlaşılırdı. Osmanlı Devleti kaza teşkilatında da diğer Türk-İslam devletlerinin birikiminden yararlanarak zamanla kendine has bir sistem oluşturmuştur. Bu sistem ile yargı Rumeli, Anadolu ve Mısır olmak üzere üç bölgeye ayrılmıştı. Rumeli'deki teşkilat ve kadılar Rumeli kazaskerinin, Mısır ve Anadolu'daki kadılar ve teşkilat da Anadolu kazaskerinin yönetiminde idi. Kazaskerliğin taşra teşkilatını oluşturan bu yapılanmada kadılar kendi sorumluluğunda bulunan işleri doğrudan veya dolaylı olarak kendilerine karşı sorumluluğu bulunan çok sayıda görevliyle yerine getirirlerdi. Kadıya doğrudan bağlı olarak nâip, kassam, muhtesip, kâtip, muhzır (adlî inzibat), tercüman, imam, papaz, haham gibi din adamları ve diğer yardımcı personel bulunurdu. Bunların sayısı kazanın büyüklüğüne ve iş hacmine göre değişebilirdi. Kadılıklar kazalarla sancak ve eyalet kadılıkları olarak iki kısımdı. Sancak ve eyaletlerin kadılıkları genellikle mevleviyet rütbesinde idi. Mevleviyet, büyük kadılıklarla büyük medreselerin müderrisliklerine denilmekteydi. Mevleviyetler aşağıdan yukarıya doğru devriye, mahreç, bilâd-ı hamse, Haremeyn olarak derecelere ayrılıyordu. Daha sonra İstanbul kadılığı ve nihayet kazaskerlik gelmekteydi. XVII. yüzyıldan itibaren iyice belirgin duruma gelen bu uygulama devletin sonuna kadar devam etmiştir. Bu derecelendirme müderrislikten kadılığa yatay geçişlerde önem arzetmektedir.

XVII. yüzyıldan itibaren ilmiyeye mensup olanların tayinleri şeyhülislamlığa geçti ve bu tayinlerde giderek yerleşen bir sistem oluştu. Buna göre şeyhülislam, tayinini isteyen veya tayini yapılacak ilmiye görevlisinin talebini teklif yazısı ile sadarete sunardı. Ancak re'sen göndermesi de mümkündü. Sadrazam bunu bir telhisle padişah katına arzederek hatt-ı hümâyunu aldıktan sonra, buyruldusunu yazarak evrakı gereğinin yapılması için meşihata gönderirdi. Genel olarak sistem bu şekilde işlerdi.

XVI. yüzyılın ikinci yarısına kadar ilmiye teşkilatının idaresi, teftişi ve diğer meselelerinden sorumlu olan kazaskerler, XVI. yüzyıl sonlarından itibaren ilmiyenin en üst amiri olan şeyhülislamlar, devlet teşrifatında çok yüksek bir konumda bulunan padişah hocaları, Hz. Peygamber soyundan gelen seyit ve şeriflerin başı olan nakîbüleşraflar yanında hekimbaşı, müneccimbaşı ve mutasavvıflar Osmanlı ilmiye sınıfının devlette ve toplumda çok itibarlı belli başlı temsilcileri idi.

XVI. yüzyıl ortalarından itibaren Osmanlı'da medrese sayısının artması ve mezun olan ilmiye mensubu sayısı oranında mansıp artışının olmaması başlıca üç çareye müracaatı gerekli kılmıştı. Birincisi ilmiye ricali fiilen göreve tayin edilemiyorsa o görevin ve mansıbın payesinin tevcih edilmesiydi. Böylece mesela bir tek İstanbul kadısı fiilen görev yaparken birden çok kişiye bu paye veriliyordu. İkinci tedbir olan mülazemet uygulamasıyla belirli süreler için görev veriliyor, sonra görevden alınıyor ve yerine bir başka aday tayin ediliyordu. Üçüncü tedbir ise genişleyen devlet teşkilatına uygun yeni mansıpların ihdas edilmesiydi.

İlmiye sınıfı Osmanlı Devleti'nde XVI. yüzyıl sonlarına kadar olan dönemde giderek sistemleşerek bürokratik işleyiş içerisinde kendine has bir yapı ve gelenek inşa etmekle beraber zaman zaman yaşanan olumsuzluklardan kaynaklanan zaaflar da görülmüştür. Bu sebeple devlet teşkilatına dair ilk eserlerden Lutfî Paşa'nın Âsafnâme'sinde ulema için pek sitayişkâr olmayan ifadeler kullanılmaktadır. Aynı şekilde kendisi de ilmiyeden olan Taşköprizâde Ahmed Efendi de medreselerde genel olarak ilim seviyesinin düştüğünü ifade ederek ulemanın basit kitaplarla yetindiğinden şikâyet etmiştir. Bu konuda ilmiyeye en ağır tenkitler Gelibolulu Âlî Mustafa Efendi'den gelmiştir. Ona göre esasen bir memleketin en aslî unsurlarından olan ilim erbabı artık merasim uleması haline gelmiş, medreselerde ders yapılmaz olmuş, ilmiyeye himaye anlayışı ve adam kayırma yerleşmiş, kazaskerler dahi yolsuzluklar yapmışlar, müderrislik ve kadılık tayinlerinde rüşvet verilmeye başlanmıştı. Âlî Mustafa, özellikle ilmiye ailelerine tanınan imtiyazın zararlarından söz etmektedir. Selânikî Mustafa Efendi de ilmiye mensuplarının cemiyet, devlet ve toplum için önemini belirttikten sonra dini ve hukuku temsil eden bu zümrenin haktan ve dürüstlükten ayrılmaması gerektiğini, bunların görevlerinin hakkı ve dürüstlüğü temsil ile toplumda emir bi'l-ma'rûf nehyi ani'l-münker olduğu halde görevlerinde zaafa düştüklerini ve benlik kaygısı güder hale geldiklerini, bu yüzden de sık sık azledilme korkusuyla tedirginlik yaşadıklarını belirtmiştir. Benzer eleştiriler Kâtip Çelebi'de de yer almaktadır. Özellikle Kâtip Çelebi Mîzânü'l-Hak fî İhtiyâri'l-Ehak adlı eserinde Osmanlı medreselerinin meselelerini ortaya koymaktadır.

XVII. yüzyıldan itibaren medreselerde hikmet ve felsefe gibi derslerin yeterince okutulmadığı eleştirileriyle ilmiye hakkındaki genel şikâyetler üzerine bu kurum ve sınıfın nasıl ıslah edilebileceği üzerine düşünceler de belirmeye başlamıştır. Sultan III. Ahmed ve I. Mahmud zamanında bu minvalde fermanlar çıkarılarak konunun üzerinde durulduğu görülmektedir. Ancak asıl kapsamlı girişim asrın sonlarında III. Selim tarafından başlatılmıştır. Bunun üzerine II. Mahmud 1826 yılında ilmiyeye bir neşter vurarak Evkaf-ı Hümâyun Nezareti'ni kurdu ve ilmiyeye hizmet eden vakıf gelirlerini devlet bütçesine aldı. Tabiatıyla bu tedbir medrese ve ilmiye sınıfını büyük oranda zapturapt altına aldığı gibi kaynağını kaybeden medrese giderek ağırlığını da kaybetti. Zaman içerisinde medreselerin işleyişinde olumsuzluklar ve ilmiyedeki liyakatsizlik iddiaları üzerine II. Meşrutiyet döneminin hemen başlarında Medâris-i İlmiye Nizamnamesi yayımlanarak medreselerin ıslahı düşünüldü (bk. Medâris-i İlmiye Nizamnamesi). Nizamname daha çok müfredat ve talebelerin durumuyla ilgili yenilikleri içeriyordu. Medreselerin program ve yeni dersler ilavesi yoluyla mekteplere yakınlaştırılması fikri göze çarpan bir başka yenilikti. Ancak kısa süre sonra başlayan savaşlar yüzünden nizamnameden istenilen netice alınması mümkün olmadı. En son 1917 yılında yürürlüğe giren Medâris-i İlmiye Hakkında Kanun ile bütün medreselerin meşihat makamına bağlanması kararlaştırıldı.

İlmiye sınıfı XIX. yüzyıldan itibaren yükselen yeni güç merkezlerinin de tesiriyle devlet içerisinde ağırlığını giderek kaybettiyse de özellikle II. Mahmud'dan itibaren Osmanlı padişahları öngördükleri reform ve değişikliklerin halka intikali için ilmiyenin itibar ve nüfuzundan yararlanmaya devam ettiler. Bu durum ilmiye sınıfının yenileşme teşebbüslerine engel olmayıp destek sağladığını da göstermektedir.