X. yüzyılın ikinci yarısında ortaya çıktığı kabul edilen şeyhülislam tabiri, üzerinde ittifak edilemeyen fıkhı konulara dair çözüm sunan âlimler için kullanılan bir unvandı. Osmanlı Devleti'nde de önceki Türk-İslam toplumlarındaki gibi İslam hukukunun herhangi bir konudaki hükmü veya yorumu olan fetva hizmetini gören âlimlere müftü veya şeyhülislam dendi. II. Murad devrinden (1446-1451) itibaren ise bu âlimlerden biri resmî olarak başmüftü veya payitaht müftüsü olarak atandı. İstanbul'daki merkez müftüsüne şeyhülislam, diğer şehirlerdeki müftülere ise kenar müftüsü dendi.
XVI. yüzyılın ilk yarısında Sultan II. Bayezid'e vekaleten Beyazıt Medresesi müderrisliği ile Sultan Bayezid evkafı nazırlığı hizmeti şeyhülislamın uhdesine verildi. Bu yüzyılın ikinci yarısında da kazaskerlerin, üst düzey müderrislerin, mevleviyet denilen büyük şehir kadılarının ve tarikat şeyhlerinin atama arzları yetkisi şeyhülislama verildi. Böylece şeyhülislamlığın hizmet alanı genişledi ve bütün bu işlerin yürütülmesinde şeyhülislamın maiyeti olarak görev alan memur ve hizmetlilerin sayısı arttı. Şeyhülislam, ilmiye sınıf ve teşkilatının en yüksek amiri oldu. Zenbilli Ali Efendi (ö. 1526), Kemalpaşazâde (ö.1534) ve Ebüssuûd Efendi (ö. 1574) bu yüzyılın en nüfuzlu şeyhülislamları idi.
İlmiye sınıfı mensupları kamuda pek çok farklı görevin yanı sıra esas olarak kaza müftüsü, cami imamı ve müezzini, alay imamı ve müftüsü, hekimbaşı, müneccimbaşı, padişah imamı, padişah hocası, müderris, kadı ve kazasker olabilirdi. Ricâl-i devlete mukabil ricâl-i ilmiye denen Anadolu kazaskerleri ve payelileri, Rumeli kazaskerleri ve payelileri, İstanbul kadıları ve payelileri taşrada görevlendirilmezdi. İstanbul'da pek çok meclis ve komisyonda görevlendirilen bu üst düzey ilmiye mensuplarının kariyerlerinin en son basamağı şeyhülislamlık idi.
Osmanlı Devleti'nin kuruluş sürecinde kamunun ihtiyaç duyduğu okumuş insan gücü ilmiye sınıfından karşılandı. Medrese mezunları Çandarlılar örneğinde olduğu gibi veziriazamlık dahil her alanda istihdam edildi. XVII. yüzyılda medreselerin ve mezunlarının sayısının artması ile kamuda arz-talep dengesi bozuldu. Bunun bir sonucu olarak da ehliyet ve liyakat esaslı atamaların yerini bazan bilerek bazan da bilmeyerek iltimasa dayalı atamalar aldı. Yaklaşık iki yüzyıl boyunca neşredilen fermanlar aracılığıyla ilmiye sınıf ve teşkilatında meydana gelen bozulmanın önlenmesine çalışıldı. Bu fermanlarda benzer usulsüzlükler ve çözüm önerilerinin tekrarlanması da bir netice alınamadığına işaretti.
Bir yanda yıllarca medrese eğitimi alıp imtihanla ehliyetini ispat edip kadı, müderris veya diğer bir hizmet alanında liyakat ehli adayların görev beklemesi, diğer yanda da hem bilgi ve görgüsü hem de ehliyeti olmadığı malum olan kişilerin bir şekilde iltimasla göreve atanması ciddi bir sorundu. Üst düzey ilmiye sınıfı mensuplarının çocukları ise müesses nizamın bir gereği olarak üçte bir kota imtiyazını kullanarak istihdam hakkını kullanırdı. Öyle ki üst düzey bir âlimin çocuğu veya büyük bir hamisi olanlar kıdem bakımından ilmiye sınıfının zirvesi olan Rumeli payesine ve oradan da şeyhülislamlık makamına daha kolay ulaşabilirdi. Bu da üst düzey ilmiye sınıfı mensubu ailelerin yüzyıllar boyu kazaskerlik ve şeyhülislamlık gibi görevleri kullanmaları neticesini verdi.
II. Mahmud (1808-1839) devrinde hızlanan modernleşme çabaları devletin diğer bütün kurumlarında olduğu gibi şeyhülislamlık kurumunda da birtakım yeniliklerin yapılmasını kaçınılmaz kıldı. Nitekim yeniçerilik ilga edildikten sonra Ağakapısı'nın ismi Fetvahane olarak değiştirilip şeyhülislamlara sabit bir mekân olarak tahsis edildi (1826). Yaklaşık on yıl sonra 1836 yılında Anadolu kazaskerliği, Rumeli kazaskerliği ve İstanbul kadılığı da şeyhülislamlar için sabit devlet dairesine dönüştürülen Fetvahane'ye nakledildi. Bu nakil işlemleri esasında kurumsallaşmanın bir gereğiydi ve ilmiye sınıfına dair üst düzey daireleri de bir yerde toplama projesiydi (1836).
Bir süre sonra ise sadrazamın yetkisinde olan ve kazaskerlerin katılımıyla yapılan huzur mürâfaası denilen yargı kararlarında temyiz hizmeti de şeyhülislamın yetkisine geçti (1838). Bu düzenleme de modern devlet düzenin temel esaslarından olan kurumsallaşmaya eşlik eden ihtisaslaşmanın bir gereği idi. Böylece merkez teşkilatında her bir hizmet alanı isminden de anlaşılan bir kuruma verilirken kurumsallaşma ve ihtisaslaşmanın bir sonucu olarak şer'î işler ve ilgili daireler de şeyhülislamın idaresi altında toplandı.
Geleneksel devlet teşkilatının yerine tesis edilen nezaretlerin her birine kendi iş sahasına nispetle Maliye Nezareti, Dahiliye Nezareti ve Hariciye Nezareti gibi yeni isimler aldı. Şeyhülislamın idaresinde yeniden yapılandırılan bu kuruma resmî olarak nezaret ismi verilmese de şeyhülislam "şer'î işler nazırı" olarak görüldü. Şeyhülislam da "şer'î işler nazırı" sıfatıyla Meclis-i Vükelâ üyesi yapıldı. Bu düzenlemeler, ilmiye merkez teşkilatının da diğer nezaretler gibi modern devletin kurumsallaşma ve ihtisaslaşma esasına uygun olarak sabit bir mekânda toplanmasını netice verdi. Sanıldığının aksine ilmiye sınıf ve teşkilatı geleneksel yapısıyla ve köhneleşmiş kurumlarıyla kendi haline terkedilmedi. Geniş bir teşkilatın nazırı olan şeyhülislam, fetva yetkisi sebebiyle devleti ve toplumu ilgilendiren en önemli meselelerde görüşü alınan ve esasen siyasî duruşu da olan bir devlet adamıydı. Bu sebeple şeyhülislam, Osmanlı devlet ve toplum idaresinde ister statükonun korunması isterse bir değişme ve yenileşme olsun ihmali mümkün olmayan önemli bir aktördü.
Yenileşme devrinde başta II. Mahmud ve Sultan Abdülmecid (1839-1861) olmak üzere Tanzimat reformcularından Mustafa Reşid Paşa, Âli Paşa ve Fuad Paşa gibi sadrazamlar, şeyhülislamlığa mülkî ve şer'î işlerde tecrübeli, reformcu kimlikleri olan ve kendilerine mülkî meselelerde yardımcı olacak, esasen bu konularda rüşdünü ispat etmiş ilmiye sınıfının reformcularını seçtiler. Tanzimat devrinin birinci kuşağında sırasıyla görev yapan Mekkîzâde Mustafa Âsım Efendi, Ârif Hikmet Beyefendi, Meşrebzâde Ârif Efendi, Saadeddin Efendi ve Âtıfzâde Ömer Hüsâmeddin Efendi devlet idare ve adabını aileden gören ve esas itibariyle bürokrat ve payitaht menşeli ailelerin çocuklarıydı.
Sultan Abdülmecid ve Tanzimat'ın üç öncü paşasının tarih sahnesinden ayrılmasından sonra Sultan Abdülaziz'in (1866-1876) saltanatının son döneminde bu ölçüler çok fazla dikkate alınmadı. Tanzimat devrinin ikinci döneminde Sultan Abdülaziz'in hocası Hasan Fehmi Efendi, Ahmed Muhtar Beyefendi ve Sultan Abdülaziz'in imamı Hasan Hayrullah Efendi şeyhülislamlık vazifesine getirildi. Bu dönem şeyhülislamları esas itibariyle devlet ve bürokrasi geleneği birincilere nispetle sınırlı ya da olmayan ailelerin çocuklarıydı. Tanzimat devrinde ilmiye sınıfının üst düzey temsilcilerinin malî bakımdan statülerinde de bir farklılaşma oldu.
Bu reform sürecinde şeyhülislamlık bünyesinde toplanan mevcut bazı birimlerin görevleri yeniden ele alınarak veya yeni ihtiyaçlara binaen teşkil edilen bürolar ve meclisler ile ilmiye teşkilatında kurumlaşma ve ihtisaslaşma devam etti. Ölen kişilerin mal varlıkları olan terekelerin yazım ve taksimi neticesinde yetim çocukların paralarının işletilme yetkisi Emvâl-i Eytâm Nezareti'ne aktarıldı (1851). Bu arada geleneksel medrese sisteminin dışında kadı yetiştirmek üzere yeni usulde eğitim verecek ilk modern medrese olan Muallimhâne-yi Nüvvâb adıyla bir kadı mektebi açıldı (1855). Bu kadı mektebi ve diğer kadı adaylarının tayin ve tevcih işlemlerinde önemli bir aşama olan ehliyet ve liyakat ehlinin imtihanla seçimi için de Meclis-i İntihâb-ı Hükkâm'a kuruldu (1855). Kazaskerlerin şer'î temyiz denen huzur mürâfaası görevlerinde revizyona gidilerek davanın ön hazırlıklarının yapılması açılan Meclis-i Tedkîkat-ı Şer'iye bürosuna verildi (1861). Böylece kazaskerlerin yetim malları, huzur mürâfaası ve kadı atamalarındaki yetkilerinin bir kısmı ihtisaslaşmanın bir neticesi olarak şeyhülislamlık bünyesinde kurulan yeni büro veya meclislerine aktarıldı.
İstanbul, Galata, Eyüp ve Üsküdar mahkemelerinin evkaf nezareti görevleri ilga edildi. Bu kadılıkların belediye hizmetlerine dair yetkileri alındı, mahkemenin yargı ve idarî görevlerini üstlenen bab mahkemeleri ile miras taksimi işlerini yürüten kısmet mahkemeleri birleştirildi. Kurumsallaşma ve ihtisaslaşmanın bir sonucu olarak tarikatların da belli bir denetim altında tayin ve tevcihleri ile aralarında meydana gelen davaların karara bağlanması amacıyla tarikat temsilcilerinin de üyesi bulunduğu Meclis-i Meşâyih adıyla bir meclis kuruldu (1866). Hem merkez hem de taşra medreselerinde eğitim öğretime devam eden talebelerin kura imtihanlarını yapmak ve talebelikle ilgisi olmayanlardan ismine kura isabet edenleri askerliğe sevk için Meclis-i İmtihân-ı Kur'a kuruldu (1873). Böylece Anadolu ve Rumeli kazaskerlikleri ile İstanbul, Galata, Eyüp ve Üsküdar kadılarının yetkilerinde bir daralmaya gidildi. Bunun yerine ise şeyhülislamlık bünyesinde tesis edilen yeni bürolar ve meclisler aracılıyla işlerin daha düzenli yapılması temin edildi. Şeyhülislamın yetkilerindeki genişleme kurumsallaşma ve ihtisaslaşmanın gereği olarak II. Abdülhamid ve II. Meşrutiyet devrinde de sürdü.
İstiklal Savaşı sonrasında 23 Nisan 1920'te Ankara'da Türkiye Büyük Millet Meclisi açıldıktan dokuz gün sonra da on bir kişilik İcra Vekilleri Heyeti seçimi yapıldı. Bu sırada İstanbul hükümetinin bir parçası olan şeyhülislamlığa mukabil Ankara hükümeti tarafından Şer'iye ve Evkaf Vekâleti kuruldu. Şer'iye ve Evkaf Vekâleti, hükümet listesinde başvekilden sonra İcra Vekilleri Heyeti'nin ilk sırasındaydı. Görev ve yetki bakımından ise hem şeyhülislamlığın hem de Evkaf Nezareti'nin görevlerini üstlenmişti. Bu durum Ankara meclis hükümetinin Şer'iye ve Evkaf vekilinin İstanbul hükümetinin şeyhülislamıyla statü bakımından denk, görev ve yetki bakımından ise en azından görünürde daha geniş bir görev ve yetkiye sahipti. Şer'iye ve Evkaf Vekâleti, tesisinden üç yıl on ay bir gün sonra 3 Mart 1924 tarihinde ilga edildi. Aynı kanunla inanç ve ibadete dair bütün hüküm ve meselelerin yönetimi ile dinî kurumların idaresi için Diyanet İşleri Reisliği kuruldu. Dolayısıyla bütün cami, mescit, tekke ve zaviyelerin idaresi ile imam, hatip, müftü, şeyh, müezzin ve diğer memur ve hizmetlilerin tayin ve azilleri de Diyanet İşleri reisinin görevleri arasında sayıldı.
İlmiye sınıfının amiri olan şeyhülislamın başında bulunduğu ilmiye teşkilatı ve şeyhülislamlık makamı da şeyhülislam Molla Şemseddin Fenârî'den şeyhülislamlık kurumunun ilgasına kadar 500 yıllık bir geleneği temsil etmektedir (1424-1924). Böylece İstanbul'da Osmanlı Devleti'nin geleneksel teşkilatının en geniş örgütlenmelerinden biri olan şeyhülislamlık ile bu örgütlenmeye mukabil Ankara hükümetinin tesis ettiği Şer'iye ve Evkaf Vekâleti tarih sahnesinden çekildi.
