Trablusşam'da doğdu. Babası Hüseyin Yahyâ Bey, annesi Hatice Hanım'dır. Liseyi Diyarbakır Mülkiye İdâdîsi'nde başlayıp 14 Ekim 1901'de Mercan Mülkiye İdâdîsi'nde bitirdi. 1904 yılında Mekteb-i Mülkiye'den birincilikle mezun oldu. 24 Aralık 1904 ile 28 Eylül 1907 yılları arasında Teçhîzât-ı Askeriye evrak müdür muavinliğinde bulundu. 29 Eylül 1907 tarihinde Washington Büyükelçiliği üçüncü sekreterliğine tayin olundu. 13 Eylül 1908'de kadro harici kaldı. 1908 sonrası Tanin gazetesinde çalışmaya başladı.

Sâtı Bey, İhsan Sungu'nun 26 Ekim 1909'da Dârülmuallimîn-i Âliye'ye mâ'lûmât-ı medeniye ve kanûniye muallimi ve 28 Ekim 1909'da Tatbikat Mektebi müdürü olarak atanmasını sağladı. 2 Ekim 1911'de Dârülmuallimîn-i Âliye'de fenn-i terbiye (pedagoji) derslerini vermeye başladı. Tatbikat Mektebi müdürlüğü görevinden dolayı, Hasan Âli Yücel döneminde müsteşar oluncaya kadar, eğitim camiasında "Tatbikatçı İhsan Bey" olarak anıldı. 9 Şubat 1916'da Dahiliye Nezareti'nce Akabe kaymakamlığına atandı ama bu göreve gitmedi. 1917'de Maarif Nezareti'ne bağlı olarak Fenn-i Terbiye Encümeni kurul üyesi oldu. 2 Ekim 1921 tarihli Maârif-i Umûmiye Nezareti'ne yazdığı bir dilekçesine göre Arnavutköy Amerikan Kız Koleji'nde Türkçe öğretmenliği yapmak için izin istediği görülmektedir. 1 Şubat 1923'te İhsan Sungu, Dârülmuallimîn-i Âliye'ye müdür olarak atandı ve İstanbul Dârülmuallimâtı'nda usûl-i tedris ve tatbikat öğretmenliği görevi de kendisine verildi.

15 Temmuz-15 Ağustos 1923 tarihleri arasındaki I. Hey'et-i İlmiye'ye Dârülmuallimîn-i Âliye müdürü olarak katıldı. 3 Eylül 1923'te Türkiye Büyük Millet Meclisi üyeliğine seçilen Veled Çelebi'den (İzbudak) boşalan Telif ve Tercüme Encümeni azalığına tayin edildi.

3 Ekim 1924'te Yüksek Muallim Mektebi müdürlüğünden istifa etti. 1924'teki II. Hey'et-i İlmiye'ye de Yüksek Muallim Mektebi terbiye ve usûl-i tedris muallimi olarak katıldı. 26 Eylül 1926'da Millî Talim ve Terbiye Heyeti üyeliğine tayin edildi. Okul Kitaplarını Tetkik Komisyonu'nda çalıştı. Türk harflerinin imla kaidelerini tespit için toplanan Alfabe Encümeni'nde görev aldı (1928). 2-24 Kasım 1929 tarihleri arasında Ankara Gazi Orta Muallim Mektebi müdürlüğü görevini yürüttü. Gazi Terbiye Enstitüsü'nde, fahrî olarak tedris usulü dersini okuttu (Ekim 1929-Haziran 1932). 9 Şubat 1930'da Millî Talim ve Terbiye Heyeti'nin başkanlığına gizli oyla seçildi. Esasen dönemin Maarif Vekili Cemal Hüsnü Bey, heyete reis vekili olarak Ahmet Tevfik'i (Göymen) atamış, Avni Başman'ın ve Mehmet Emin Erişirgil'in itirazı ile böyle bir çözüm bulunmuştu. Kurum, bu tarihten itibaren kısa bir süre Bibliyografya diye bir dergi çıkarmaya başladı. Mustafa Nihat Özön, derginin çıkmasını İhsan Bey'in istediğini belirtmektedir. 1932 yılından itibaren Türk Tarih Kurumu ve Türk Dil Kurumu üyesi oldu. 1934'te Soyadı Kanunu çıktığında, İhsan kelimesinin Türkçe karşılığı "Sungu"yu soyadı olarak aldı. Türk Tarih Kurumu'nda asbaşkanlık yaptı (1938-1942). 11 Temmuz 1939'da Maarif Vekâleti Müsteşarı Rıdvan Nafiz Edgüer'in Manisa milletvekilliğine seçilmesiyle ondan boşalan göreve, üçlü kararname ile müsteşar olarak tayin edilmiş, 1946'ya kadar Maarif Vekâleti müsteşarlığını yürütmüştür.

İhsan Sungu 11 Nisan 1946'da Ankara'da vefat etti ve 12 Nisan Cuma günü Asrî Mezarlığa defnedildi, kütüphanesi, Millî Kütüphane koleksiyonuna dahil edildi.

Tedrîsât-ı İbtidâiye ve Terbiye mecmualarında yayımlanan ilkokula yönelik ders örnekleri, İhsan Sungu'nun "usûl-i tedris" hocalığının yansımalarıdır. Bu dersler, genelde çocukların vatandaşlık eğitimi için hazırlanmıştır. 1920'li yıllardaki çalışmaları, ilerlemeci eğitim anlayışının izlerini taşımaktadır. İhsan Sungu eğitim işlerinde çocukta problem çözme ya da bilimsel düşünmenin geliştirilmesini, ezbercilikle mücadeleyi, çocuğun ilgisini, iş birliği içinde çalışmayı, derslerde araç ve gerecin önemini, proje yönteminin uygulanmasını vurgulayarak ilerlemeci eğitim anlayışına mensup olduğunu göstermiş ve bu görüşleri Türkiye'de yaymaya çalışmıştır.

Eğitim tarihi ile ilgili çalışmaları, güncel eğitim meselelerini millî ve dünya eğitim tarihinin ışığında ele aldığı önemli çalışmalardır. Türkiye Büyük Millet Meclisi'ne sunduğu 17 Aralık 1922 tarihli rapor, zorunlu eğitim yılının uzatılmasına ve Köy enstitülerinin ilk işaretlerine ilişkin önerileri de içermesi bakımından dikkati çeker. Ona göre Türkiye'de köylüye yalnız ibtidâî tahsil vermekle onun seviyesi yükseltilemez. Mektepten çıktıktan sonra da onun elinden tutulmalı, ona rehber olunmalı, kendisini tenvir ve irşat etmeye devam edilmedir. Okullar çocuğun sosyal faaliyetlerinin de gelişmesine yer vermelidir. Tabiat tetkiki dersleri, konusunu çocuğun çevresinden almalıdır. Ülkemizde tarımı ilerletmek için ilkokullarda tabiat tetkiki derslerine eğitim açısından daha fazla önem verilmelidir. Okullar, meslek sahibi kişilerden özellikle yararlanmalıdır.

1923'te Hâkimiyet-i Milliye gazetesinin yaptığı ankete verdiği cevaplardan eğitimin ıslahı için ilk önerdiği şey, yeni eğitim programının, "demirden bir el" ile uygulanmasıdır. Halkı ilkokul tahsiline teşvik için bu okulların masraflarının genel bütçeden ödenmesi ve ilkokul öğretimi için halktan doğrudan doğruya alınan vergilerin azaltılması gerektiği görüşündedir.

İhsan Sungu, erken Cumhuriyet döneminde okuma eğitimi, ilk okuma yazma öğretimi ve söz varlığı ile ilgili çalışmalar da yapmıştır. Münir Raşit Öymen (1948), alfabe öğretiminde kelime yöntemi veya cümle yöntemi adıyla tanıtılan yeni yöntemi, İhsan Sungu'nun getirdiğini yazmaktadır. İhsan Sungu Tanzimat ve sonrası yakın kültür tarihimiz hakkında derin bilgiye sahipti. Bu konularda kendisine mektupla müracaat eden araştırmacılara da nezaketle yardım ettiği dile getirilmiştir. 1943'te Selim Nüzhet Gerçek ile İhsan Sungu'nun mektuplaşmaları bunun güzel bir örneklerinden biridir.

Sungu'nun eğitimin farklı yönlerine dair telif, tercüme, deneme, araştırma makalesi, kitap, gazete yazısı vb. niteliklerde çok sayıda eseri vardır. Onun eserleri ve görüşleri üzerine müstakil, ayrıntılı bir çalışmanın henüz yapılmadığı görülmektedir. Eserlerini bazı konu başlıkları altında tasnif etmek mümkündür. Ders Örnekleri ve Öğretim Yöntemleri ile İlgili Çalışmaları: "İlk Osmanlılar", "Bizi Yaratan", "Hep Kardeşiz" (Şarkı Üzerine Ders), "İlk Padişah", "Küçük Asker", "İki Elma Ağacı", "Silah Müzesi" (Ziyaret Üzerine Ders), "Kosova Muharebesi", "10 Temmuz" (Îd-i Millî Üzerine Ders), "Rumeli'nin İlk Fatihleri", "Niğbolu Muharebesi" (Tedrîsât-ı İbtidâiye Mecmuası, 1909-1910), "Mekâtibe Tevzî Edilen Resmî Tetevvüç Levhası Hakkında İzahatı Tarihiye ve Terbiyeviye" (İstanbul 1917), "Temrinler" (İlk Terbiye ve Tedrisat Mecmuası, 1340), "Terbiyevî Gezintiler" (Terbiye, 1927), "Kanatlı Dostlarımız: Çocuklara Fennî Kıraat" (Terbiye, 1927), "Proje Usulü" (Terbiye, 1927), "Tahriri Nüfus Mihveri Etrafında Dersler" (Terbiye, 1927), "Mektep Kitabı" (Terbiye, 1927), "Temrin Dersleri İçin Müşahede Planı" (Terbiye, 1927), "Tarih Tedrisatı Hakkında" (Terbiye, 1927), "Talebeyi Nasıl Düşündürmeli?" (Terbiye, 1927).

Eğitim ve Eğitim Tarihi ile İlgili Çalışmaları: "Eski Mekteplerimizde Cismanî Cezalar" (Terbiye, 1334), "Çocukları Kendi Kendilerine Çalıştırmak" (Tedrisat Mecmuası, 1337), "Derslerin İçtimaî Cephesi" (Tedrisat Mecmuası, 1337), "İlk-Orta Mektep Tedrisat Mekteplerine Ait Müfredat Programlarına İlişkin Arzedilen Rapor" (Maârif Hakkında Lâyihalar 1339), "Terbiye-i Umûmiye, İbtidâî Mekteplerinde Muallim Namzetlerine Yaptırılacak Tatbikat ile Pedagoji Dersleri" (Tedrisat Mecmuası, 1920), "Tabiat Tetkiki Derslerinin Esasları" (Tedrisat Mecmuası, 1341), "Danimarka Halk Mektepleri" (Muallimler Mecmuası, 1922), "Muhtelit Terbiye" (Muallimler Mecmuası, 1924), "Mecburi Tahsil Meselesi" (Muallimler Birliği, 1926), "Eski Mektep ile Yeni Mektep Arasındaki Farklar" (Terbiye, 1927), "Müfettişler İçin Tetkik Planı" (Terbiye, 1927), "Müfettişler İçin Müşahede Planı" (Terbiye, 1927), "Orta Tahsilin Gayesi" (Terbiye, 1930), "Türklerin Terbiyeye Hizmetleri" (Ankara 1932), "Tevhîd-i Tedrisat" (Belleten, 1938), "Cumhuriyet'te Kültür İnkişafı" (Ankara 1939), "Ziya Paşa'nın 'Emile' Tercümesi" (Tercüme, 1940), "Mekteb-i Maârif-i Adliyye'nin Tesisi" (Tarih Vesikaları, 1941), "Galatasaray Lisesi'nin Kuruluşu" (Belleten, 1943), "Bir Senelik Maarif Hayatı" (Ankara 1943).

Okuma öğretimi hakkındaki çalışmaları: "Kıraat Hakkında Tetkikler" (İlk Terbiye ve Tedrisat Mecmuası, 1924), "Kelimelerin İmlasını Çocuklara Nasıl Öğretmeliyiz?" (Terbiye, 1927), "Kıraat Derslerinde Alakanın Temini" (Terbiye, 1927), "Kıraat Hakkında Tetkikler" (Terbiye, 1928), "Sükûtî Kıraat" (Terbiye, 1928), "Yeni Türk Harflerine Talebeleri Alıştırmak İçin" (Terbiye, 1929).

Tercümeleri: "Düşündürücü Meselelerin Halledildiği Dersleri Tetkik Planı" (Prof. Burto), (Terbiye, l927), "Terbiyede Hars ve Meslekçilik" (J. Dewey), (Hayat, 1927), "Okumanın Mânası" (Fransız yazar Gerkut), (Hayat, 1928), "John Dewey'in Mekteplere Tesiri" (J. H. Newlon), (Terbiye, 1930), "Fizik Tedrisatı ve İlmî Usul" (Fernando Sanford), (Terbiye, 1930), "Öğretmenin Vazifesi" (İlköğretim, 1942).