XIX. yüzyılın ikinci yarısından sonra yaşanan ve özellikle dil âlimi Hacı İbrâhim Efendi'nin görüşleriyle alevlenen bir tartışmada Arapça'nın Türkler'e yeteri kadar öğretilip öğretilmediği konusunda lehte ve aleyhte birçok kişi yazılarıyla fikir belirtmişlerdir. İbrâhim Efendi kısa zamanda Arapça'yı öğretebileceği iddiasıyla çeşitli okullarda öğretmenlik yapmasının ardından, önce Dârüttâlim, daha sonra da Dârüttedris adıyla kendi okulunu kurmuştur. Bu okul, öğrencilere Arapça öğretmekte başarılı olunca benzer özellikte başka okullar da açılmıştır. Onlardan biri de edebî Türkçe öğretimi için öncelikle iyi düzeyde Arapça ve Farsça öğretmek amacıyla açılan Mekteb-i Edeb'dir.

Okulun kurucusu Mekteb-i Sultânî lisân-ı Osmânî muallimi ve ders kitabı yazarı Ali Nazîmâ ile yine Mekteb-i Sultânî hocalarından Mehmed Necip Bey'dir. Okul için Maarif Nezareti'nden 23 Ekim 1888 tarihinde ruhsatname alınmıştır. Okulun açılacağına ilişkin ilk duyuru 3 Kasım 1888 tarihli Tercümân-ı Hakîkat gazetesinde yer almaktadır. İlana göre kasım ayı ortalarında başlanacak olan ibtidâî ve rüşdî düzeyindeki okul için Cağaloğlu, Ceridehane sokağında bulunan Dârülmuallimîn'in karşısındaki 9 numaralı ev kiralanarak öğrenci kayıt ve kabulüne başlanmıştır. İlk iki yıl yalnız erkek öğrenci kabul eden okul 1890 Ekim ayında Beyazıt Gedikpaşa Soğanağa mahallesi, Cami sokağındaki 10 numaralı konağa taşındıktan sonra kız öğrenci de almaya başlamıştır. Üç yılı ibtidâî, üç yılı rüşdî düzeyinde olan okulda o yılın kasım ayı ortalarında derslere başlanacağı bildirilmiştir.

Bu özel okulun ayırt edici özelliği Arapça ve Farsça'yı kısa zamanda öğretme iddiasıyla açtığı dershanelerdir. Derslerin, ibtidâî ve rüşdî kısımların dersleri bittikten sonra yapıldığı bu dershanelerin açılması, yüksek eğitimli bazı memurların Arapça, Farsça ile tefsir ve hadis gibi dinî ilimlerdeki bilgilerini arttırmak amacıyla Hacı Zihni Efendi'ye başvurması ile olmuştur. Osman Ergin'in, bu derslerin müdavimi Evkaf Nezareti müsteşarlığından emekli Şevki Bey'den aktardığı bilgilere göre ilk ders, Arapça için yirmi kadar Mülkiye Mektebi mezununun kendisine başvurduğu Hacı Zihni Efendi tarafından 17 Kasım 1888 tarihinde yapılmıştır. İlk zamanlar Farsça derslerini yürüten Muallim Feyzi Efendi, bir derste öğrencilerden birinin sorduğu bir soruya alınarak dersleri bırakmış, ardından bu ders Muallim Nâci'ye verilmiştir. Fakat birkaç yıl içinde burada ders verenlerin kiminin vefatı ve Ali Nazîmâ'nın Maarif Nezareti Tedkîk-i Müellefat Komisyonu üyeliğine, Muallim Nâci'nin de vakanüvisliğe atanması gibi sebeplerle derslerin sonu gelmiştir.

Okulun tam olarak ne zaman kapandığı belli değildir. 1890, 1891 yılında kapandığını söyleyenler varsa da bazı belgelerde Mekteb-i Edeb Farsça muallimi Hocazâde Cevdet ile müdür muavini Sâib Efendi adlarına rastlandığından, okulun 1892 sonuna kadar devam ettiği tahmin edilmektedir.

Öğretim hayatının kısa sürmesinin aksine okul hocalarının derslere yönelik hazırladığı nitelikli eserler dikkat çekmektedir. Mesela Hacı Zihni Efendi'nin Mekteb-i Edeb öğrencileri için hazırladığı ve bu yüzden ilk baskıları da aynı adla çıkan, el-Müşezzeb (Mektebü Edeb fî Sarfi ve Nahvi Lisâni'l-Arab, el-Mürteeb fî Sarfi ve Nahvi Lisâni'l-Arab) adlı eser Arapça sarf ve nahiv öğretimi için pek çok okulda ders kitabı olarak okutulmuştur. Muallim Nâci'nin okulun adını taşıyan ve çok okunan, meşhur kıraat kitabı ile Farsça dersleri için hazırladığı Numûne-i Sühan adlı antolojisi de bu dönemin ürünü sayılmıştır. M. Nâci bu eseriyle klasik eğitimdeki Gülistan veya Bostan gibi eserler yerine pekâlâ başka metinler eliyle de Farsça'nın öğrenilebileceği görüşünü ileri sürmüştür.

Türk eğitim tarihinde aynı adlı başka okullar da faaliyet göstermiştir. Mesela Yahya Kemal'in Üsküp'te eğitim gördüğü ibtidâî mektebin adı da Mekteb-i Edeb'dir. İbtidâî ve rüşdî düzeyde bu adla açılan okulların dil öğretimi yapan mezkûr mekteple ilgisinin bulunmadığı ortadadır.