İlk olarak Numûne-yi Terakkî Mektebi adıyla açılan, 1909'da İstanbul Leyli İdâdîsi ve ertesi yıl İstanbul Lisesi adını alan okul kısa bir süre sonra İstanbul Mekteb-i Sultânîsi olarak yapılandırılmıştır. Bu dönemde Cağaloğlu'ndaki Mülkiye Mektebi binasına (bugünkü Cağaloğlu Anadolu Lisesi) taşınmıştır.

1912'de Balkan savaşları sırasında binasının hastane olarak kullanılması sebebiyle eğitim aksamıştır. Bununla birlikte öğrencilerinin çoğunluğunun taşralı olması veya İstanbul'da kalacakları başka bir yer bulunmamasından dolayı oluşabilecek mağduriyeti önlemek adına tahliye edilmemişlerdir.

I. Dünya Savaşı esnasında da hastane olarak kullanılmış (Kızılay Arşivi, 1695/1), Aralık 1914'te Galata'daki St. Benoit Fransız Mektebi binasına taşınmıştır. O dönemde Lahey Konferansı'nda alınan kararlar doğrultusunda eğitim binalarının bombardımandan korunması amacıyla düzenlenen resmî yazıda bu binaların siyah levhalarla işaretlenmesi istenmiştir (BOA, MF.MKT, 1206-12). Okulun simgesi olan sarı-siyah renklerinden siyahın buradan geldiği düşünülmektedir.

Galatasaray Sultânîsi'nde oluşturulan Fransız modeline karşılık İstanbul Sultânîsi'nde bir Alman ekolü yaratılmak istendiğinden 1915-16 döneminde "Alman terbiye-yi fikriye ve ilmiyesinden istifade edilmek üzere" ibtidâî kısmı için Alman vatandaşı Seiffert, Susen Thierbach ve Stark adlı öğretmenlerin Osmanlı Devleti hizmetine kabullerine dair karar alınmıştır. Yine Gabel, Reinhold ve Michel isimli Almanlar, Almanca öğretmeni olarak görev yapmaya başlamıştır. Lotthammer adlı öğretmene ayrıca öğrenci yurdunda da görev verilmiştir. 1917 sonbaharında altıncı sınıfa kadar derslerin yarısı Alman öğretmenler tarafından işlenmiş ve bunlar Almanca'nın yanı sıra coğrafya, jimnastik, şan ve tarih dersinden de sorumlu olmuştur. Almanlar'la eğitim alanında yapılan bu iş birliği Kasım 1918'de İtilaf devletlerinin isteği üzerine feshedilerek Osmanlı Devleti içerisindeki bütün Alman öğretmen ve akademisyenlerin işlerine son verilmiştir.

I. Dünya Savaşı'nın yarattığı sosyal çöküntü, ekonomik sıkıntılar, göçler, öğretmen ve öğrencilerin bir kısmının askere alınması gibi gelişmeler bu okulu da etkilemiştir. Savaşın şiddetlendiği 1915-1916 ders yılında on, on bir ve on ikinci sınıfların, 1916-17 döneminde on ve on ikinci sınıfların, 1917-18 döneminde on ikinci sınıfın, 1918-19'da ise on bir ve on ikinci sınıfların teşekkül etmediği, diğer sınıflarda da öğrenci sayısının yok denecek kadar az olduğu görülmektedir. Bu arada savaşın sona ermesi ve İstanbul'un işgaliyle birlikte işgal güçlerinin St. Benoit binasını tahliye etmesi sonucu okul yeni bir bina arayışına girmiştir.

Cumhuriyet'in ilanıyla birlikte sultânî teşkilatının lağvedilmesi doğrultusunda İstanbul Erkek Lisesi adını alan okul Beyazıt'ta bulunan eski Maliye Nezareti binasına nakledilmiştir. 1924-25 verilerine göre birinci devrede 172'si nehârî 183'ü leylî olmak üzere 355; ikinci devrede 129'u nehârî ve 116'sı leylî olmak üzere 245, toplamda 600 öğrenci eğitim görmüştür. Görevli öğretmen ve memur sayısı ise yetmiş beşi bulmuştur (Devlet Salnâmesi, 1926: 163).

Türkiye'nin köklü kulüplerinden olan İstanbul Spor Kulübü de aynı yıl İstanbul Lisesi öğrenci ve öğretmenleri tarafından kurulmuştur.

1934 yılına kadar leylî (yatılı) olan okul, Haydarpaşa Lisesi açıldıktan sonra nehârî (gündüzlü) olarak eğitim öğretime geçmiş ve bu durum 1955 yılına kadar devam etmiştir.

1935-1936 ders yılında yirmi sekiz adet dersanesi bulunan okulda 1600 kadar öğrenci vardı. Okulun 7000 kitaba yaklaşan kütüphanesinin yanı sıra geniş konferans, sinema ve müsamere salonu bulunmaktaydı. Zengin ders araç gereçleriyle donatılmış fizik ve kimya laboratuvarları, ayrıca resim ile jimnastik dersaneleri mevcuttu.

1936-1937 ders yılında öğrenci sayısı 1800'e yükselmiştir. 1937-1938'de ise orta kısmın birinci sınıfı üç şubeye indirilmiş, dördüncü sınıf dokuz ve beşinci sınıf da dört şubeye çıkartılmıştır.

1957 yılında dönemin İstanbul Erkek Lisesi mezunu Millî Eğitim Bakanı Celal Yardımcı'nın da gayretleriyle Federal Almanya Cumhuriyeti ile Türkiye Cumhuriyeti arasında kültür anlaşması imzalanmış ve bu kapsamda okula tekrar Alman öğretmenler gelmeye başlamıştır. 1960-61 yıllığında dört Alman öğretmenin Almanca dersine girdiği, birkaç yıl içerisinde okulun bütün sayısal derslerinin Alman öğretmenler tarafından verilmeye başlandığı görülmektedir.

Okulun adı 1982 yılında İstanbul Lisesi olarak değiştirilse de bu değişiklik kâğıt üzerinde kaldı. Gerek öğrenciler gerekse okul camiası bu ismi benimsemeyince 2018 yılında bakanlığa yapılan başvuru neticesinde İstanbul Erkek Lisesi adı okula tekrar verildi.

1999 yılında Abitur (Alman eğitim sisteminde ortaöğretimden yükseköğretime geçişi sağlayan ve sınav sonucunda elde edilen lise bitirme diploması) başlamış olup ilk mezunlarını 2002'de vermiştir. Talim Terbiye Kurulu Başkanlığı, Abitur uygulamasından ötürü sadece İstanbul Erkek Lisesi'ne özel haftalık ders dağıtım çizelgesi düzenlemiştir. İlerleyen yıllarda ortaöğretimde hazırlık sınıflarının kaldırılması gibi gelişmelerden ötürü bu çizelge Talim Terbiye Kurulu Başkanlığı tarafından 2014, 2017 ve 2018 yıllarında Abitur programı çerçevesinde yeniden güncellenmiştir. İstanbul Erkek Lisesi'nde fen ve matematik Abitur'u uygulanmaktadır. Nitekim İstanbul Erkek Lisesi'nden 2021 yılında 165 öğrenci mezun olurken bunlardan 129'u Abitur sınavına girmiş ve 123'ü Abitur diploması almaya hak kazanmıştır. Bu 123 öğrencinin 103'ü Almanya ve Abitur diplomasını kabul eden ülkelerdeki üniversitelere eğitim almak için gitmiştir. 2020 yılında 165 mezun öğrenciden 100'ü Abitur sınavına girmiş bunlardan 99'u başarılı olmuştur. Abitur programı dolayısıyla Alman hükümeti İstanbul Erkek Lisesi'nde otuz dört Alman vatandaşı öğretmen istihdam etmektedir. Bu programı başarılı bir şekilde yürüten lisenin mezunlarının sınavsız bir şekilde Almanya'ya gitmeleri beyin göçü gerekçesiyle bazı eleştirilere de sebep olmaktadır.

İstanbul Erkek Lisesi'nden üç başbakan, onlarca milletvekili ve siyasetçi, sayısız bilim ve sanat adamı yetişmiştir. Necmettin Erbakan ve Mesut Yılmaz bu isimlerin en tanınmışları arasındadır. Türk düşünce tarihinde önemli izler bırakmış olan Nurettin Topçu hem İstanbul Sultânîsi'nde okumuş hem de yirmi yıl burada öğretmenlik yapmıştır. Hilmi Ziya Ülken de İstanbul Sultânîsi meşhurları arasındadır. Hukukçu Sulhi Dönmezer, arkeolog Ekrem Akurgal, matematikçi Cahit Arf, iktisatçı Sabri Ülgener, tarihçi Enver Behnan Şapolyo, halk bilimcisi Pertev Naili Borotav, kalp damar cerrahı Siyami Ersek, tiyatro/sinema oyuncusu Münir Özkul, bestekâr Alaeddin Yavaşça İstanbul Erkek Lisesi'nden mezun diğer isimlerden bazılarıdır.