Mardin, tarih öncesinde ve tarih çağlarında, coğrafî bakımdan önemli ticarî ve kültürel ilişki ağlarının kavuşma noktasında yer alan, aynı ad ile de anılan dağın üzerinde kurulmuş Anadolu'nun en eski şehir merkezlerinden biridir. Tarihi Sumerler dönemine kadar gitmektedir.
Milattan sonra II. yüzyılın ikinci yarısında Mardin ve çevresinde Hıristiyanlık yaygın bir din haline geldi. Sonraları Mardin ve çevresinde Süryânî kadim diye anılan bu ilk hıristiyan Ârâmîler, tarihin tanıdığı ilk hıristiyan halk oldu.
Roma İmparatoru II. Konstantinus zamanında Sâsânîler'in bu bölgeye yaptıkları ve kısa aralıklarla birbirini takip eden baskıları sonucunda Hasankeyf (Hısnıkeyfâ) ile Hâtem-i Tâî kaleleri yaptırıldı ve Nusaybin'den Re'sulayn'a (Ceylanpınar) kadar uzanan bütün alan, bu yörenin merkezi olan Âmid'e (Diyarbakır) bağlandı. Sâsânî Hükümdarı II. Hüsrev'in Musul ve Tikrit çevresine yerleştirdiği Bizanslı monofizist savaş esirleri VIII ve IX. yüzyıllarda inançlarını yayarak bu yörede çoğunluğu sağladılar ve Nestûrîler'i de kendi mezheplerine soktular. Bunun sonucunda Mardin'in doğusunda Deyrüzza'feran Manastırı inşa olundu.
Mardin Halife Ömer döneminde barış yoluyla fethedildi (640). Abbâsîler döneminde Horasan'dan getirilen Türk askerlerinin bir kısmı Mardin havalisine yerleştirildi. Bilahare Mardin, Musul ve çevresinde kurulan Hamdânîler (905-1004), 990 yılından sonra da Mervânîler'in eline geçti.
Sultan Melikşah zamanında, Büyük Selçuklular'ın hizmetine giren Fahrüddevle Muhammed b. Cübeyr, Mervânîler'e karşı giriştiği harekât esnasında Mardin'i fethetti. Sultan Melikşah'ın ölümünden sonra cereyan eden olaylara sahne olan Mardin, Artuk Bey'in oğlu Hasankeyf hâkimi Sökmen'in yeğeni Yâkutî ve ardından da Sökmen'in eline geçti. Nihayet 1106 yılında yine Artuk Bey'in oğullarından Necmeddin İlgazi tarafından fethedilerek burada Artukoğulları Beyliği'nin "Tabaka-yı İlgaziye" denilen kolu kuruldu. Bu dönemde Mardin, Artuklular'la birlikte, siyasî bir merkez, bir başşehir kimliği kazandı. Şehrin fizikî yapısı ve mimari dokusu, bölgesel bir merkez olarak XII. yüzyıldan itibaren Artuklular'la gelen bir rönesans döneminde gelişip biçimlendi.
Bu yapı, sonraki Akkoyunlu ve Osmanlı dönemlerinde fazla bir değişikliğe uğramadan muhafaza edildi. Mardin şehrinin bu dönemde şahit olunan siyasî ve kültürel gelişmesine, ekonomik ve ticarî gelişme ve büyüme de eşlik etti. Artuklu Beyliğinin Mardin ve çevresinin tarihinde, Haçlılar'la Anadolu ve Suriye'ye yerleşen Selçuklu Türkleri'nin mücadelelerinde büyük bir rolü oldu. Artuklu döneminde toplum hayatında büyük etkisi olan cami, medrese, kervansaray, bîmaristan (hastane) ve köprü gibi eserler inşa edildi.
Bu dönemde Mardin şehri ve kalesi çok sayıda saldırıya uğrayıp tahrip edilmesine karşın, kalenin çok yüksekte ve muhkem oluşu sebebiyle fethedilemedi, ancak uzun kuşatmalar sonunda teslim edilmeye zorlandı. Mardin ve çevresi iki defa da Timur'un istilasına uğrayarak tahrip edildi. Timur'un Mardin'i ikinci kuşatmasından sonra, Mardin şehri Karakoyunlular'ın ve sonrasında da Akkoyunlular'ın eline geçti. Akkoyunlular Mardin'in tarihinde büyük rol oynadılar. Ancak Akkoyunlular, Şah İsmâil tarafından ortadan kaldırılınca Mardin ve yöresi Safevîler'in eline geçti.
Mardin ve çevresi, Osmanlı ordusunun Çaldıran'da Safevîler'i yenilgiye uğratmasından sonra, 1517 yılında Osmanlı topraklarına katıldı. Osmanlı döneminde bir sancak durumuna getirilen Mardin, Diyarbekir eyaletine bağlandı. 1518 yılında Mardin sancağı, Mardin kazası ile Savur ve Nusaybin nahiyelerinden, 1526 yılında ise, Mardin, Savur ve Berriyecik'ten oluşmaktaydı. 1550'de Nusaybin sancak olurken, Mardin 1557 yılında Âmid sancağına bağlı bir nahiye oldu. 1564 yılında kaza olan Mardin XVII ve XVIII. yüzyıllarda da Diyarbekir'e bağlandı.
Mardin'de İslam'ın yayılışına kadar olan süreçte, eğitim ve kültürle ilgili gelişmeleri ortaya koyacak kaynaklar yok denecek kadar azdır. Mevcut vesikalara göre, Mardin, İslam öncesinde daha çok Süryânî kültürünün etkisinde kaldı. Mardin'in aksine Nusaybin bir dinî ve kültürel merkez olarak öne çıktı. Süryânî yazarlarının en büyüğü olarak kabul edilen ve Süryânî züht hareketini güçlü biçimde etkilemiş olan Efraim burada doğdu. Mardin'de ise eğitimin kurumsallaşması yüzyıllar aldı ve İslam dininin yaygınlaşmasıyla beraber kurumsallaşmanın da temeli atıldı.
Büyük Selçuklu Veziri Nizâmülmülk'ün (ö. 1092) kurduğu medreselerle İslam dünyasında eğitim kurumsal hale getirildi ve Mardin'e yerleşen Artuklular da bunu örnek aldılar. Bu dönemde Mardin bir eğitim ve bilim merkezi haline geldi. Artuklu hükümdarları Mardin'de inşa ettikleri Hatuniye (Sitti Radviyye), Şehidiye, Mârufiye, Altun Boğa, Zinciriye (Sultan Îsâ), Hüsamiye, Muzafferiye, Melik Mansur medreseleri ve bunlara yaptıkları vakıflarla eğitimin gelişmesine hizmet ettiler. Bu medreselerde İslamî ilimlerin yanı sıra tıp, matematik, eczacılık, mimari ve felsefe dersleri okutuldu. Artukluların son hükümdarlarından Sultan İsa'nın1392 yılında inşa ettiği Zinciriye Medresesi buna en güzel bir örnektir. Mardin'deki bu medreselerde çok önemli bilim ve din adamları yetişti. Nitekim aslen Düneysirli (Koçhisar) olup XII. yüzyılda burada yetişen ve kendi şehir tarihini yazan Ebu Hafs Ömer b. Huder b. İlalmış'dan nakilde bulunan XIII. yüzyıl Arap tarihçisi İbn Adim İsak b. İsmâil b. Kınık Ebû Yûsuf Türkî, Şahâbiye Medresesi'nde fıkıh dersleri okutulduğunu kaydeder. Müellif bundan dolayı medresede cedel (tartışma) ve münazaralar, tıp üzerine münakaşalar yapıldığını, Kadı Ebû Bekir Muhallebî, Kadı İmrân Mâkisi, Ebû Kerem Mevsılî gibi önemli din âlimlerinin bu medresede yetiştiğini kaydeder. Öğrencilere aydınlanma ve iaşe için belli miktarda para da verilmekteydi. Ünlü ansiklopedi âlimi Yâkut Hamevî (ö. 1229), Mardin şehir merkezinde medreselerin bulunduğunu, seyyah İbn Battûta da Artuklu hükümdarlarının hayır eseri olarak birçok medrese ve zaviye yaptırdıklarını kaydeder.
Mardin'deki bu eğitim öğretim şekli sonraki Akkoyunlu ve Osmanlı dönemlerinde pek fazla değişikliğe uğramadan devam etti. Bu yapı içinde başlıca örgün eğitim kurumları, sıbyan mektepleri ve medreseler eğitim hayatının merkezinde yer aldı. Artuklular ve Akkoyunlular'dan devir alınan medreselerde yüksek seviyede eğitim verildi ve Osmanlılar zamanında bunlara yenileri eklendi. Ancak dünyada değişen şartlarla birlikte, Tanzimat döneminde medreseler dışında yeni eğitim öğretim kurumları da faaliyete geçti. 1885 yılında Mardin'deki dört erkek ve iki kız mekteb-i ibtidâîsi açıldı ve kız öğrenciler de eğitim imkânına kavuştu. 1901 yılında Mardin'de müslümanlara ait sekiz hamidiye, iki ibtidâî ve yetmiş altı sıbyan okulu; gayrimüslimlere ait bir ibtidâî ve on dört sıbyan okulu bulunmakta idi.
1870-1871 yıllarında Mardin Rüştiyesi'nde yirmi beş öğrenci öğrenim görmekteydi, 1875 yılında ise kırk öğrenci, iki muallim vardı. 1884-1885 yıllarında da Mardin merkezinde müslümanların üç medrese, bir rüştiye, ikisi kız okulu olmak üzere yirmi beş ilkokulu; Ermeni Katolikleri'nin iki, Ermeni Protestanları'nın iki erkek, bir kız okulu vardı. Bu okullarda İngilizce ve Ermenice eğitim verilmekteydi. Keldânîler'in iki, Süryânî Katolikleri'nin bir ve Yâkubîler'in bir okulu vardı. İtalyan Kupçileri'nin erkek okulunda İtalyanca, Türkçe ve Ermenice eğitim verilmekteydi. Protestanlar 1864 yılında açtıkları erkek ve kız rüştiye derecesindeki okullardan sonra, Osmanlı Devleti'nden otuz yıl önce (1870), idâdî derecesinde okul açtılar. Bu okulların Osmanlı Devleti'nden ruhsat aldığı tarih ise 28 Mart 1893 ve 20 Ağustos 1893'tür.
Osmanlı Devleti'nde idâdîler 1869'da kurulduysa da Mardin'de idâdî mektebi 1900 yılında açıldı. 1903 yılı Maarif Salnamesi'ne göre Mardin Mekteb-i İdâdîsi'nde elli dört müslüman öğrencinin okuduğu görülmektedir. Cumhuriyet öncesi dönemde açılmış olan Mardin İdâdî Mektebi, Diyarbakır Valisi Hâlid Bey tarafından yıktırılarak, halktan toplanan paralarla, Artuklu Muzafferiye Medresesi'nin yerinde inşa ettirildi ve 1902 yılında eğitim öğretime açıldı. 1924'te sekiz mezun vererek "sultânî" lise konumuna getirilen idâdî mektebi, 1925 yılında Mardin Orta Mektebi adını aldı. Bu okul Maarif Teşkilatı Kanunu'nun 1926'da yürürlüğe girmesiyle kapatılarak idâdî binası da yeni açılan Gazi İlk mektebi'ne verildi.
Cumhuriyet döneminde temel eğitime büyük önem verildi. Mardin ilinde 1927 yılında on altı ilkokul vardı ve beşi kırsal kesimdeydi. İlk belirgin artış 1937 yılında oldu ve 1943 yılına gelindiğinde Mardin'de on altısı kırsal kesimde olmak üzere kırk bir ilkokul vardı. Nüfusun kır-kent dağılımına paralel olarak, 1980'de köy ilkokul sayısı 572'ye, kent ilkokul sayısı kırk beşe yükseldi. Daha sonraki yıllarda okulla beraber, öğrenci sayısı da giderek arttı. Mardin ilinde Cumhuriyet sonrasında ortaöğretimdeki gelişmeler ilköğretime göre daha yavaş oldu. 1926 yılında Maarif Teşkilatı Kanunu'nun yürürlüğe girmesi üzerine diğer şehirlerdeki kimi okullarla beraber Mardin Ortamektebi de kapatıldı ve ortaokul 1933 yılında yeniden açıldı. Mardin'de bu tarihte bir ortaokul vardı ve burada 400'e yakın öğrenci öğrenim görmekteydi.
1923 yılında bir lise bulunuyordu ve öğrenim gören öğrenci sayısı 7283 kişiydi. Mardin'de ortaöğretimde yaşanan gelişmeler yıllarla beraber artış göstermeye başladı. Bu kapsamda 1954 yılında Erkek Sanat Enstitüsü, 1959'da Kız Sanat Enstitüsü ve İmam-Hatip Okulu, 1961'de Kız İlk Öğretmen Okulu ve Tarım Meslek Okulu, Ticaret Lisesi, 1966'da Sağlık Meslek Okulu açıldı. 1967'ye gelindiğinde ise ildeki bütün ilçe merkezlerinde birer ortaokul bulunmaktaydı. Mardin'de 1973 eğitim öğretim yılı başlarında beşi lise, on ikisi ortaokul ve sekizi meslekî teknik lise olmak üzere yirmi beş orta dereceli okul vardı. Bu okullarda öğrenim gören öğrenci sayısı ortaokullarda 5550, liselerde 7283, meslekî teknik okullarda ise 1503 kişiydi. Ancak bu gelişme yeterli değildi. Daha sonraki süreçte nicelik ve nitelik bakımından okulöncesi eğitim kurumlarına ağırlık verildi. 2015 yılına gelindiğinde okul öncesi eğitimde 440 okul, 641derslik ve 13435 öğrenci bulunmaktaydı. Aynı şekilde ilköğretimde de çok büyük ilerleme sağlandı. İlköğretimde 611 okul, 3523 derslik ve 82667 öğrenci sayısına ulaşıldı. Bu suretle Mardin'de ilköğretimde okullaşma oranı %97,9 seviyesine yükseldi.
Bu dönemde Mardin'de temel eğitime de gerek nicelik gerekse nitelik bakımından büyük bir gelişme yaşandı. 2015 yılında Mardin'de 263 ortaokul, 2179 derslik ve 66420 öğrenci vardı. Böylece Mardin'de ortaokul oranı %92,2'ye yükseldi. Bunun yanı sıra, Mardin'de, meslekî ve teknik lise eğitiminde diğer illerle kıyaslanmayacak kadar bir ilerleme sağlandı. 61 meslekî ve teknik lise, 999 derslik ve 16078 öğrenci bu okullarda eğitim aldı. Bu bakımdan Mardin'deki meslekî ve teknik liselerde okullaşma oranı Türkiye ortalamasının üzerine çıktı.
Mardin'de eğitim alanındaki bu kesintisiz değişim ve gelişmeler Millî Eğitim Bakanlığı'na ait 2022/2023 istatistik verilerine yansımaktadır. Nitekim Mardin'de temel eğitimi oluşturan okul öncesi 737 okul, 1011 derslik 25.686 öğrenci (13169 erkek/12517 kadın), 1204 öğretmen bulunmaktadır. Aynı şekilde Mardin'de temel eğitimi oluşturan 633 ilkokul, 4003 derslik, 83263 öğrenci (43014 erkek/40249 kadın), 4126 öğretmen; 334 ortaokul, 2591 derslik, 83010 öğrenci (40799 erkek/42211 kadın), 4913 öğretmen; 11 açık öğretim ortaokulu, 122 derslik, 6492 öğrenci (2014 erkek/4478 kadın), 131 öğretmen; İmam-Hatip bünyesinde 10 ortaokul ve 87 İmam-Hatip ortaokulu, 300 derslik, 10870 öğrenci (5118 erkek/5552 kadın), 744 öğretmen bulunmaktadır. Öte yandan ortaöğretimde 150 okul, 2636 derslik, 94655 öğrenci (50138 erkek/44517 kadın), 4115 öğretmen yer almaktadır. Bu okullardan 72'si genel ve 78'i meslekî teknik okuldur. Ortaöğretimde 72 genel okulda, 1205 derslik, 62345 öğrenci (31579 erkek/30766 kadın), 1984 öğretmen; 78 meslekî ve teknik okulda 1432 derslik, 32310 öğrenci (18559 erkek/13751 kadın), 2131 öğretmen sayılarına ulaşılmıştır. Özellikle Mardin'deki meslekî ve teknik okullar, öğrencilerin geleceğe ve iş alanlarına hazırlanmasında önemli işlev görmektedir. Bu tarihte, Mardin'de 26 Anadolu İmam-Hatip lisesi ve Açık İmam Hatip Lisesi'nde, 602 derslik, 10675 öğrenci (5557 erkek/5118 kadın), 730 öğretmen (424 erkek/306 kadın) görülmektedir. Mardin'de eğitim öğretimin gelişmesinde, bu okulların sayısının çoğalması önemli rol oynamıştır.
Mardin'de ilköğretim ve ortaöğrenimdeki bu değişim ve dönüşümü üniversitenin açılması izlemiştir. 1980'den sonraki yıllarda yüksek öğrenimdeki yaygınlaşma ve 17 Mart 2007 yılında 5662 sayılı kanun ile Mardin Artuklu Üniversitesi'nin kurulmasıyla birlikte yüksek öğrenimde büyük ilerleme sağlandı. Bugün Mardin Artuklu Üniversitesi'nde eğitim öğretim faaliyetleri on bir fakülte, iki yüksekokul, sekiz meslek yüksekokulu, iki enstitü, bir devlet konservatuarı, on yedi araştırma ve uygulama merkezi ile yürütülmektedir. 8671 kız ve 8476 aktif erkek olmak üzere toplam 17.147 Türk ve 2138 yabancı öğrenciyi geleceğe hazırlayan Mardin Artuklu Üniversitesi, 667 akademik kadrosu ile bilimsel araştırma yapan ve bunların sonuçlarını öğrencilere aktaran bir öğretim kurumu olmanın yanı sıra, yörede millîz ve evrensel kültürün oluşmasına da katkı vermektedir.
