İstanbul Üsküdar'da doğdu. Babası Bahriye Miralayı Ali Bey, annesi Sadberk Hanım'dır. Öğrenimine İbrâhim Ağa Mekteb-i İbtidâîsi'nde başladı. 1880 yılında babasının Girit'e kâtip olarak atanması sebebiyle eğitimine Suda şehrindeki tersanede subay çocukları için kurulan bir okulda devam etti. 1882'de tekrar İstanbul'a döndü, rüştiye eğitimini Vezneciler'deki Şemsülmaârif'te, idâdî eğitimini ise Süleymaniye'deki Numûne-yi Terakkî Mektebi'nde tamamladı. Yüksek öğrenimine 1887 yılında henüz üç yıl önce Mühendishane-i Berr-i Hümâyun'dan ayrılarak kurulmuş olan Hendese-i Mülkiye Mektebi'nde (günümüz İstanbul Teknik Üniversitesi) ikinci sınıf seviyesinden başladı. Temel bilimler ve inşaat mühendisliği derslerinin yanı sıra o yıllarda İstanbul'da hem mimarlık hem de okulda hocalık yapan Alman profesör August Jasmund'dan mimari dersler aldı. Öğrenciliği sırasında Jasmund'un İstanbul'daki en önemli yapısı olan, Sirkeci Tren Garı'nın (1889-1890) proje ve inşaatında ona yardım etti. 1891'de Hendese-yi Mülkiye'den birincilikle mezun olduktan sonra Jasmund'un asistanı oldu ve bu görevde dört yıl çalıştı. 1895 yılında Berlin ve Roma'da toplam üç yıllık eğitim hakkı kazandı. Berlin'de Charlottenburg Technische Hochschule'de iki yıl mimarlık eğitimi aldı, ancak Roma'ya gitmedi. Eğitiminin ardından iki buçuk yıl kadar daha Almanya'da çeşitli mimarlık ofislerinde çalıştı. 1900 yılında İstanbul'a döndü ve 1901 yılında Hendese-yi Mülkiye Mektebi'ndeki görevine ilaveten Harbiye Nezareti'nde askerî yapılardan sorumlu mimar olarak görevlendirildi.
Kemâleddin Bey genç bir mimar ve eğitimci olarak çalışmaya Osmanlı Devleti'nin siyasî ve toplumsal çalkantılarla dolu son dönemlerinde başlamıştı. Bu dönemde ortaya çıkan Türkçülük akımı, pek çok münevver Osmanlı gibi Kemâleddin Bey'i de etkiledi. Kemâleddin Bey'in genç yaşında üstlendiği sorumluluk kendisini yeni bir mimari yaklaşım inşa etmeye yönlendirdi. Modernleşen her toplumda olduğu gibi Osmanlı'da da farklılaşan şartlar önceleri ihtiyaç duyulmayan yapı türlerinin inşa edilmesini zorunlu kılıyordu. Ulaşımdaki gelişmeler tren istasyonları, rıhtımlar, depolar ve postanelerin; eğitimdeki modernleşme çağdaş okul yapılarının; toplumsal hayattaki değişim ise hastaneler ve modern ofisler gibi yapıların inşasını bir ihtiyaç olarak ortaya koyuyordu. Bu gelişmeler Kemâleddin Bey'i mimarlık tarihimizdeki adıyla birinci millî mimarlık akımı, daha doğru bir tanımlamayla ise "Osmanlı canlandırmacılığı" olarak adlandırılan mimari üslubu geliştirmeye teşvik etti. Osmanlı'ya özgü siyasî ve toplumsal şartların desteklediği bu mimari yaklaşım, bir bakıma XIX. yüzyıl sonlarında Batı'da sanayileşen toplumlarda ortaya çıkan ve en yaygın örneğini gotik canlandırmacılığının oluşturduğu üslupların Osmanlı'daki tezahürü idi. Plan şemaları ve genel hatlarıyla kütlesel kompozisyonları Beaux-Arts prensiplerine uygun olarak tasarlanan, cephelerinde ise klasik Osmanlı mimarlığından devşirilen, sivri kemer, mukarnas sütun başlıkları, çini panolar ve ahşap saçaklar gibi öğelerin belli bir disiplin içerisinde kurgulanmasıyla ortaya çıkan bu yapılar, Osmanlı'daki değişimin simgesi oldular. Diğer bir deyişle hem bu yapılar hem de mimarları modern Türk mimarlığının öncüleri konumundaydılar.
Kemâleddin Bey'in kariyerindeki önemli dönüşümlerden biri Jasmund'un Hendese-yi Mülkiye Mektebi'ndeki görevinden ayrılmasıyla başladı. Alman profesörün ardından okuldaki mimarlık derslerini üstlenen Kemâleddin Bey aynı zamanda Paris École des Beaux-Arts (Güzel Sanatlar Okulu) modelini örnek alarak 1882 yılında kurulan Sanâyi-i Nefîse Mektebi'nde (günümüz Mimar Sinan Güzel Sanatlar Üniversitesi) nazariyât-ı mimariye isimli bir dersi vermeye başladı. Derslerinde güncel mimaride yaşanan gelişmelerin yanı sıra Selçuklu ve Osmanlı dönemi anıtsal yapılarının özelliklerini de öğrencilerine aktarıyordu. Bütün bu çabalar II. Meşrutiyet dönemi ve Türkiye Cumhuriyeti'nin ilk on yılında hâkim mimari yaklaşım olan Osmanlı canlandırmacılığının olgunlaşmasında önemli roller oynadı.
Kemâleddin Bey'in otuz yılı aşkın süren eğitimciliği, mimarlık mesleğinin doğası gereği, meslek pratiği ile birlikte seyir gösterdi. Diğer bir ifadeyle mimarlık eğitiminin Osmanlı'da kurumsallaşmaya henüz başladığı bir dönemde Kemâleddin Bey'in eğitimdeki rolü, tıpkı Batı'daki çağdaşları gibi, sadece okullarda verdiği derslerle değil çalıştığı kurumlarda yetiştirdiği genç mimarlar üzerindeki etkileriyle de gerçekleşiyordu. Kemâleddin Bey mimarlık eğitiminde salt usta-çırak ilişkisi üzerine kurulan eski usul yerine Batı'da tercih edilen yeni yöntemlerin de benimsenmesi gerektiğini savunuyordu. Avrupa üniversitelerini örnek alarak çalıştığı kurumlarda dersliklerin yanı sıra öğrencilerin mesailerinin çoğunu geçirecekleri stüdyoların da oluşturulması gerektiği görüşündeydi. Gerçekleştirdiği saha ziyaretleri ile, öğrencilerine Osmanlı döneminin önemli yapılarını yerinde anlatıyordu. Kemâleddin Bey yazılı eserleri ile de hem öğrencilerine hem de erken XX. yüzyılı konu alan günümüz araştırmacılarına önemli bir kaynakçayı miras olarak bıraktı. 1911 tarihli Demir İnşaat başlıklı kitap yapı elemanları ve teknolojisi hakkında ayrıntılı bilgiler içerir. Evkaf Nezareti'ndeki yardımcısı Talat Bey ile birlikte yazdığı Fenn-i Mimari ve Fenn-i Mimari Şekilleri adlı kitapları ise hem öğrencilerinin hem de çağdaşı meslektaşlarının faydalanabilecekleri önemli birer kaynak konumundadır.
Türkçülük akımının II. Meşrutiyet döneminde etkinliğini arttırması ve Kemâleddin Bey'in İttihat ve Terakkî Cemiyeti'nin yönetim kadrosuyla kurduğu ilişkiler, mimarlık alanında etkinliğinin artmasına sebep oldu. Yeniden yapılanan Evkaf Nezareti'nde sermimarlığa ve harap durumdaki vakıf yapılarının onarımı için kurulan İnşaat ve Tamirat Müdürlüğü'nün başına getirildi. Bu müdürlük zamanla gelişerek mimar, mühendis ve yapı ustalarının birlikte çalıştıkları bir merkez halini aldı. Burada Kemâleddin Bey yönetiminde çalışan genç mimarlar ve öğrencileri Osmanlı canlandırmacılığı üslubunun yeni temsilcileri olarak yetiştiler. Kemâleddin Bey 1914 yılında İstanbul Şehremaneti Hey'et-i Fenniye müşavirliğine atandı. Bu sırada Sanâyi-yi Nefîse Mekteb-i Âlîsi'ndeki görevine son verilse de II. Meşrutiyet sonrası adı Hendese-yi Mülkiye'den Mühendis Mekteb-i Âlîsi'ne dönüşen okulda fenn-i mimari ve demir inşaat derslerini vermeye başladı. 1919 yılında eğitimcilik görevine Kondüktör Mekteb-i Âlîsi'nde verdiği fenn-i mimari dersleriyle devam etti.
Kemâleddin Bey yirmi yedi yıllık kariyeri boyunca onlarca bina tasarladı ve klasik Osmanlı dönemine ait birçok anıtsal yapının çağdaş bir yaklaşımla onarımını üstlendi. Filibe Gar Binası, Fethiye Medresesi, Vakıflar için tasarladığı yedi adet iş hanı, Bostancı, Bakırköy ve Bebek camileri, Bostancı, Üsküdar Ayazma ve Reşadiye mektepleri, Edirne Karaağaç Gar Binası Kemâleddin Bey'in mimarlık kariyerinin erken döneminde imza attığı önemli projeler arasında sıralanabilir. O ülkemizde alanındaki ilk meslekî teşkilat olan Osmanlı Mimar ve Mühendis Cemiyeti'nin kuruculuğunu üstlenmiş, kariyeri boyunca dördüncü rütbeden Nişân-ı Âlî-yi Osmânî, üçüncü rütbeden Mecidiye nişanı ve Çarlık Rusyası tarafından verilen ikinci rütbeden Saint Ilyatislas nişanı ile ödüllendirilmiştir.
1922 ile 1925 yılları arasında o dönemde Britanya hakimiyetinde bulunan Kudüs'teki Mescid-i Aksâ'nın onarımı için çalıştı. Her ne kadar hazırladığı ve camiyi olduğundan daha görkemli bir şekilde ele alan projesi uygulanmamışsa da Mescid-i Aksâ ve Kubbetüssahre Kemâleddin Bey'in denetiminde, özgün haline sadık kalınarak onarılmıştır. Kudüs'teki çalışmaları sayesinde kendisine Britanya Kraliyet Mimarlar Enstitüsü'nün onursal üyeliği verilmiştir.
Cumhuriyet'in ilanından sonra yeni hükümetin daveti üzerine 1925 yılında Ankara'ya döndü ve burada Evkaf Müdüriyet-i Umûmiyesi İnşaat ve Tamirat müdürlüğüne getirildi. Bir sonraki sene Maarif Vekâleti tarafından kurulan Sanâyi-i Nefîse Encümeni'nin başkanlığına atandı. Tamamı kendisi hayattayken bitirilemese de Vakıf Apartmanı, Gazi İlk Muallim Mektebi, Devlet Demiryolları İdâre-yi Umûmiye Binası ve Belvü Palas, Mimar Kemal İlkokulu ve Amerikan Sefareti Binası Kemâleddin Bey'in Ankara'da imzasını taşıyan binalardı. Bu süreçte millî mimari üslubunun diğer önemli temsilcisi olan Vedat Tek Bey'in (1873-1942) başladığı Ankara Palas Oteli'nin tamamlanması görevini de üstlendi. Aslında Cumhuriyet'in başşehrinin Osmanlı motifleriyle bezemeli binalarla inşa edilmesi kültürel anlamda bir çelişkiyi de yansıtmaktaydı. Bu durum fazla uzun sürmedi ve 1920'li yılların sonlarında reformların hız kazandığı bir dönemde, devlet diğer alanlarda olduğu gibi mimaride de Avrupa merkezli bir yaklaşımı benimsedi. Bu süreçte Osmanlı mimarisinden esinlenen millî mimari ve temsilcileri gözden düştü, mimarlık eğitimi ve resmî yapılardaki mimari yaklaşım Türkiye'ye gelen Alman ve İsviçreli mimarların kontrolünde Batı merkezli olarak yeniden kurgulandı. Bütün bu köklü değişimler yaşanırken kendisini dışlanmış hisseden Kemaleddin Bey Ankara Palas şantiyesinde geçirdiği beyin kanaması sonucu 13 Temmuz 1927 tarihinde vefat etti. Cenazesi İstanbul'a getirildi ve Karacaahmet Mezarlığı'na defnedildi. 1940'lı yıllardaki yol genişletme çalışmaları sırasında kaybolduğu düşünülen kabrinin, Vakıflar Genel Müdürlüğü tarafından Beyazıt Camii haziresine nakledildiği anlaşıldı ve 2007 yılında Mimarlar Odası'nın desteği ile mütevazi bir anıt mezar yaptırıldı.
