Erzincan'ın Eğin kazasında müderris İbrâhim Ethem Efendi ve Sâliha Hanım'ın oğlu olarak dünyaya geldi. Üsküdar Ravza-yı Terakkî İbtidâî Mektebi'ni bitirdikten sonra Vefa İdâdîsi'nden mezun oldu. Ardından Dârülmuallimîn-i Âliye Fen Şubesi'ni bitirdi (1905). Medrese icazeti olmasa da dinî ilimlere dair hususi dersler aldı, Arapça, Farsça ve Fransızca öğrendi. Meslek hayatına Darüşşafaka hendese muallimliği ile başlayan Mehmet Şemsettin, Kıbrıs, Midilli ve Gelenbevî idâdîlerinde idarecilik ve muallimlik yaptı. 1909 yılında tabii ilimler alanında tahsil için Lozan Üniversitesi'ne gönderildi. Dönüşünde muallimlik ve idareciliğe devam etti. Midilli İdâdîsi'nde görevli iken II. Meşrutiyet döneminin önde gelen siyasî ve fikrî dergilerinde maarif, terbiye, medreselerin ıslahı ve ahlak üzerine yazılar yazmaya başladı ve öne sürdüğü görüşlerle dikkat çekti. 1913'ten itibaren İslâm Mecmuası'nda yazdı. Dârülfünun'da Türk tarihi ve dinler tarihi dersi vermekle görevlendirildi. 1915'te Bilecik mebusu oldu ve bu tarihten itibaren pedagojik ve ilmî çalışmaları yanında siyasî ilgi ve faaliyetleri de ömrünün sonuna kadar devam etti. 1922'de Şer 'iye ve Evkaf Vekâleti telifat üyeliğine bir sene sonra da İlahiyat Fakültesi dekanlığına getirildi. Millî Mücadele sürecinde Anadolu ve Rumeli Müdâfaa-yı Hukuk cemiyetlerinde sorumluluk aldı, belediye başkan vekilliği dahil pek çok göreve getirildi. 1923'te Cumhuriyet Halk Fırkası Sivas mebusluğu ile başlayan yeni dönem aktif siyasî hayatı 1961'deki senatörlüğüne kadar devam etti. 1931'de Türk Tarih Kurumu azaları arasında yer almasının yanında Türk tarih tezinin önde gelen müdafilerinden biri oldu. 1941-1961 yılları arasında yirmi sene bu kurumun başkanlığını yaptı. Türk ve İslam tarihine ilişkin verdiği öznel değerlendirmelerle tarihçiliği ve ideolojik yanlı öğretim ve davranışları tenkit edildi. 1946 sonrası Cumhuriyet Halk Fırkası'nın özellikle de din ve laiklik uygulamalarında yeni bir tarz denemeyi gündeme getirenlere öncülük etti. 15 Ocak 1949 tarihinde başbakanlığa getirildi ve bu görevini 22 Mayıs 1950 tarihine kadar sürdürdü. Böylece tek parti döneminin son başbakanı oldu. Cumhuriyet Halk Partisi'ndeki (CHP) aktif siyasî görevi ve 1961'de seçildiği senatörlüğü vefat tarihi olan 20 Ekim 1961 tarihine kadar devam etti. Bu tarihte İstanbul'da öldü, Ankara Cebeci Asrî Mezarlığı'na defnedildi.

Mehmet Şemsettin Günaltay, siyasî faaliyetleri, fikrî değişim ve dönüşümleri, tarihçiliği yanında eğitimciliği ve eğitim yazılarıyla da tanınmış bir şahsiyettir. Özellikle II. Meşrutiyet döneminde İslamcı-Türkçü çevrelerin eğitimci yazarı olarak büyük ilgi görmüştür. Sırât-ı Müstakîm, Sebîlürreşâd, Beyânülhak ve İslâm Mecmuası'nda mektep ve medrese konusunda yazdığı yazılarla dönemin modernist-milliyetçi İslamcılar'ı arasında yer almıştır. Bu yazılarını Hurâfattan Hakîkata başlığı ile 1916 yılında kitaplaştırdı. Bu tarihlerde Doğu-Batı medeniyeti ekseninde eğitim zihniyeti üzerine mukayeseler yapmış, İslam'ın ilerlemeye engel olmadığını ancak medreselerde köklü reformların yapılması gerektiğini ifade etmiştir. Mektep ve medrese başlıklı yazılarında daha çok modern eğitim zihniyet ve pratiklerini savunmasına karşın medreselere kategorik olarak karşı gelmemiştir. Ailenin çocuk üzerindeki etkisi, annenin eğitimi, beden eğitimi, sağlık bilinci, el işleri, okulda hikâye ve roman okutulması, resim ve müzik eğitimi gibi konular üzerinde sıklıkla durmuştur. Görüşlerini sunarken Avrupalı popüler eğitimci ve filozoflardan J.J. Rousseau, J.H. Pestalozzi, H. Spencer ve F. Froebel'den sıklıkla örnekler vermiş, yazılarında zihnî/bilişsel, beden eğitimi ve ahlak eğitimi konularını işlemiştir.

1925 yılında II. Meşrutiyet döneminde yazdığı eğitim konulu makalelerini Zulmetten Nûra başlığı ile kitap halinde yeniden yayımlarken ciddi değişimler yapmış, mesela medreselerin ilim dünyasındaki yeri, önemi ve ıslah edilerek yoluna devam etmesi konusundaki görüşlerini terketmiştir. Osmanlı tarihine hatta Türk tarihi üzerine İslam'ın etkilerine yönelik daha sonra hayli eleştirilecek görüşler ileri sürdü. 1931'de yeni Türk tarihi projesinin içinde yer aldı ve heyetçe hazırlanan eser 1950'ye kadar, taviz vermeden ortaokul ve liselerde ders kitabı olarak okutuldu. 1935'ten itibaren Güneş-Dil teorisini ve Türkçe'den Arapça ve Farsça kelimelerin atılması uygulamasını destekledi ve "Türkçe'nin İslam etkisinden kurtulup özgürleştiğini" dile getirdi. 1925'ten sonra, tasavvufu, medreseleri, din görevlilerini, tekke ve zaviye mensuplarını gerilemenin müsebbibi olarak görmüş ve Cumhuriyet dönemi din-devlet ilişkileri ve laiklik pratiğinin teşekkülünde etkili isimlerden biri haline gelmiştir.

Günaltay'ın 1949 yılındaki başbakanlığı döneminde eğitim dünyasına yönelik önemli gelişmeler oldu, özellikle din eğitimi ve öğretiminin bu tarihten sonraki şekillenmesinde ciddi rol oynadı. Cumhuriyet Halk Partisi'nin 1947 kongresinde aldığı karar gereği sıkı devlet denetiminde, biçimi ve mahiyeti Ankara tarafından belirlenmiş din eğitimi ve öğretimi politikasında açılımlar yapılmıştı. 24 Ocak 1949 tarihinde ihtiyarî din eğitimi için kararlar alındı ve Ahmet Hamdi Akseki'ye yazdırılan kitapların ilk başta köy okullarında program harici seçmeli ders halinde okutulmasına izin verildi. 1949 yılında on aylık imam ve hatip kurslarının açılması da toplum tarafından sevinçle karşılandı. Aynı sene Ankara Üniversitesi'ne bağlı İlahiyat Fakültesi'nin kurulması, bazı Türk büyüklerinin türbelerinin ziyarete açılması, Diyanet İşleri Başkanlığı'nın imkânlarının biraz daha iyileştirilmesi, fiilen mümkün olmayan hacca gitmenin önünün açılması, dinî neşriyatın ve yayınların artması onun başbakanlığı zamanında hayat buldu.

Mehmet Şemsettin Günaltay tabii ilimler alanında eğitim almasına karşın genel Türk tarihi ve dinler tarihi sahasındaki eğitimciliği ve yazarlığı ile meşhur olmuş bir ilim ve siyaset adamıdır. Bir tarihçi olarak çok sayıda eser vücuda getirmiş, tarih yazımı ve metodoloji bakımından Avrupalı tarihçileri eleştirerek, İslam tarihçilerinin daha doğru tarih yazdıklarını savunmuştur. II. Meşrutiyet döneminde medrese reformundan yana olması, Cumhuriyet döneminde ise aksi görüşler belirtmesi onun şahsiyet ve ilim adamlığının tenkidine sebep olmuştur. Öyle ki, Peyami Safa'ya göre birçok dinî eserin ve makalenin yazarı, din âlimi, şeriatçı ve laiklik düşmanı Mehmet Şemsettin Bey başka, eski Cumhuriyet Halk Partisi başvekili, inkılapçı, laik ve bunlardan da fazla olarak din öğretimi aleyhtarı Şemsettin Günaltay başkadır; bu iki şahsiyet yıllardan beri aynı vücutta birbiriyle ihtilafsız ve kavgasız yaşamıştır (Sebîlürreşâd, 1956: 221).

İslam öncesi Türk tarihi olmak üzere, çok sayıda eseri olan Günaltay'ın eğitim içerikli yayınları arasında Hurâfattan Hakîkata, Târîh-i Edyân, Mâzîden Âtîye, Zulmetten Nûra, İslâm'da Târih ve Müverrihler, Müslümanlığın Çıktığı ve Yayıldığı Zamanlarda Orta Asya'nın Umumi Vaziyeti, Dil ve Tarih Tezimiz Üzerine Gerekli Bazı İzahlar sayılabilir.