İstanbul'da dünyaya geldi. Babası Rüsûmat Nazırı Alâiyeli Abdürrahman Hilmi Efendi'nin oğlu kimyager Mehmet Ziyaeddin (Ülken) ve annesi, Kazan'ın tanınmış âlimlerinden Muhammed Abdülkerim Hazret'in torunu Müşfika Hanım'dır. İlk öğrenimini Özel Tefeyyüz Mektebi'nde, orta ve liseyi ise İstanbul Sultânîsi'nde (İstanbul Erkek Lisesi) tamamlandı. 1918'de Tıbbiye ve Mülkiye mekteplerinin imtihanlarını birincilikle kazandı, babasının isteği doğrultusunda Tıbbiye Mektebi'ne kayıt yaptırdı. Fakat asıl ilgisi ve eğilimi felsefeye olduğu için 1 Ekim 1918'de tekrar açılan, yatılı Mülkiye Mektebi'ne geçti. Gönüllü olarak Ziya Gökalp'in derslerini takip etti. 1921'de Mülkiye Mektebi'ni birincilikle bitirdi, aynı yıl Dârülfünûn-ı Osmânî Edebiyat Fakültesi beşerî coğrafya asistanlığı sınavını kazandı. Bu süreçte (1921-1924) Felsefe Bölümü'nde de felsefe tarihi, ahlak ve sosyoloji öğrenimi gördü, sosyolog Mehmet İzzet'ten ders aldı. 1925'te Maarif Vekâleti İstatistik Dairesi müdürlüğüne tayin edildi. Aynı zamanda Ankara Lisesi'nde felsefe ve içtimaiyat, Ankara Öğretmen Okulu'nda tarih ve coğrafya öğretmeni olarak görevlendirildi. 1926'da ek görev olarak sicil dairesinde müdür yardımcılığı, Millî Eğitim Bakanlığı Talim ve Terbiye Dairesi Tercüme Bürosu (Heyeti) üyeliği yaptı. Ankara Öğretmenler Birliği tarafından yayımlanan Muallimler Birliği dergisinde, Türk Yurdu'nda yazıları yayımlanmaya başladı. 1926'da İstanbul'a naklini istedi ve 1926-1930 yılları arasında İstanbul Erkek Lisesi'nde felsefe ve tarih, Çapa Kız Muallim Mektebi'nde önce tarih sonra psikoloji ve sosyoloji, İstanbul Erkek Öğretmen Okulu'nda, Galatasaray ve Kabataş liselerinde felsefe ve sosyoloji öğretmenliği görevlerinde bulundu. Bu arada, 1927'de öğretmen arkadaşları ile Cumhuriyet tarihinin ilk felsefe dergisi Felsefe ve İçtimaiyat'ı çıkarmaya başladı. Aynı zamanda Feyziye (Işık) Lisesi'nde (1929-1945), Şişli Terakki Lisesi'nde (1930-1931), Özel Hayriye liselerinde (1932-1934) felsefe, Özel Pangaltı Ermeni Lisesi'nde psikoloji ve mantık dersleri verdi. Keza 1927-1928 yıllarında İstanbul Kız Öğretmen Okulu'nda psikoloji, Erkek Öğretmen Okulu'nda psikoloji ve sosyoloji öğretmenliği yapmış ve o yıllarda her iki okulda da açılan öğretmen yaz kurslarında psikoloji, 1930-1934 yılları arasında İstanbul Erkek Öğretmen Okulu, Galatasaray ve Kabataş liselerinde sosyoloji ve felsefe dersleri okutmuştur.

Umumî İçtimaiyat ve Türk Tefekkürü Tarihi adlı kitapları Atatürk'ün dikkatini çekmiş, Millî Eğitim Bakanı Reşit Galip'le beraber görüşmeye çağrılmıştır (bk. Atatürk, Mustafa Kemal; Reşit Galip). Atatürk kendisinin Almanya'ya Berlin (Staats Bibliothek) Devlet Kütüphanesi'nde tetkikler yapması için gönderileceğini ve döndüğünde yeni kurulacak üniversitede Türk tefekkürü tarihi doçenti olacağını söylemiştir. 31 Mayıs 1933 Üniversite Reformu sırasında hocası Mehmet Fuat Köprülü tarafından, Berlin'den İstanbul'a çağrılmış ve Türk tefekkürü tarihi doçentliğine getirilmiştir. Türk tefekkür tarihi, mantık, değerler teorisi, İslam felsefesi, ahlak, içtimaî doktrinler tarihi, sistematik felsefe ve sosyoloji okutmuştur. 1940'ta E. von Aster ve Şerafettin Yaltkaya'nın önerisiyle felsefe profesörlüğüne atanmış ve bu karar 1941'de onaylanmıştır. 1942'de Eğitim Bakanlığı tarafından, diğer görevlerine ek olarak, kendi kurduğu Sosyoloji Kürsüsü başkanlığına getirilmiştir. 12 Kasım 1946'da ve arkasından 19 Şubat 1948'de Millî Eğitim Bakanlığı'na "İçtimaî Araştırmalar Bürosu" kurulmasıyla ilgili projesine ait talebini ve raporunu sunmuştur. Daha sonra (1954) Sosyoloji Dergisi'nde yazdığı yazıyla bu çağrısını yenilemiştir. 1954'te İstanbul Üniversitesi Edebiyat Fakültesi'nin yanında, Ankara Üniversitesi İlahiyat Fakültesi'nde Felsefe ve Mantık Kürsüsü başkanı olan Hamdi Ragıp Atademir'in milletvekili seçilip görevinden ayrılmasıyla bu kürsüye de felsefe profesörü olarak tayin edilmiştir.

1960 askerî darbesinden sonra Millî Birlik Komitesi tarafından çıkarılan bir kanunla 147 profesörün işine son verilirken, Hilmi Ziya Ülken İstanbul'daki görevinden alınmış, Ankara Üniversitesi İlahiyat Fakültesi'nde sistematik felsefe ve eğitim felsefesi okutmak için atanmıştır. Bu dönemde iki defa dekanlık yapmıştır. 1962'de görevden alınma davası yürürlükten kalktıysa da İstanbul'a dönmemiş Ankara Üniversitesi İlahiyat Fakültesi'nde çalışmaya devam etmiştir. 1968'de Ankara Üniversitesi Eğitim Fakültesi'nde eğitim ve ilim felsefesi profesörlüğüne ek görevle atanmış, bu görevde üç yıl çalışmıştır. 1971'de yaş haddinden emekli edilmiştir. Görev süresi bir sene uzatılmış, ardından Temmuz 1973 tarihinde ordinaryüs profesörken görevinden ayrılmıştır. 5 Haziran 1974'te vefat etmiş, 7 Haziran 1974 Cuma günü Rumelihisarı Âşiyan'daki aile kabristanına defnedilmiştir.

Hocalığı, akademisyenliği, bilim insanlığı, yazarlığı ve eğitim sahasında üstlendiği görevlerle ömrünü Türk eğitimine ve Türk düşüncesine hasretmiştir. Arkasında, etkisini bugüne kadar sürdüren ve sayısı 1350'yi geçen telif ve tercüme kitap ve makale bırakmıştır. Türk düşünce tarihi, felsefe tarihi, ahlak, sanat ve ideoloji alanlarındaki bu eserler büyük bir okur kitlesi tarafından rağbet görmüş defalarca basılmıştır. Türkiye'de felsefe eğitiminin gelişmesine ve kurumsallaşmasına büyük emek harcamış, çok sayıda akademisyenin yetişmesine vesile olmuştur. Bu yönüyle o hocaların hocası olarak da bilinmektedir.

Hilmi Ziya Ülken'in müstakil, teorik bir eğitim kitabı yoktur. Ancak eserlerinin ilgili kısımlarında eğitimci biyografileri, eğitim kurumlarının tarihsel gelişimi ve düşünce tarihi içindeki yeri gibi ayrıntılar vardır. Ülken'in Salahattin Güzey ve Ali Rıza Ülgener ile 1943'te J.J. Rousseau'nun Emile adlı önemli eserini tam metin tercüme etmeleri, onun eğitim felsefesine ilk ve önemli katkılarından biridir.

1968'de Ankara Üniversitesi Eğitim Fakültesi'ne atanınca eğitim felsefesi dersine kaynak olması bakımından Eğitim Felsefesi adlı bir kitap hazırlamıştır. Bu kitap Türkiye'de, bir felsefe disiplini olarak "eğitim felsefesi" adını taşıyan sistematik ve kapsamlı bir yapıya sahip ilk telif eserdir. Eğitim meselesi aslında bir insan ve kişilik meselesi halinde ele alınmıştır. Bu çerçevede kişiliği hem birey hem de toplum bağlamında ele alan yazar, insanın diğer canlı türlerinden farklı olduğunu ve hiçbir insanın tek başına var olamayacağını belirtir. İnsanî varoluş ötekilerine ve dolayısıyla toplum hayatına bağlıdır. Hem birey hem de toplum kişiliğini bu bir aradalıkta bulur. İnsanlık tarihi insanın kültür kazanması, eğitim almasının tarihidir. Ona göre, eğitimin başlangıç noktası, insanın ait olduğu toplumun değer kökleriyle temas halinde bulunmasıdır. Zira eğitim bir milletin kültürünü yansıtır ve kültür eğitimle kişilik bulup somutlaşır. Her milletin kendisine özgü bir bilgi birikimi, hayat tarzı ve yetiştirme biçimi söz konusudur. Aslında o toplumda eğitimi belirleyen de bunlardır. Eğitim, gücünü kültürden alır ve bir milletin kültürü mevcut varlığını sağlayan kendi tarihine ve geleneklerine dayandığı müddetçe millî olma özelliğini korur. Eğitim ancak insanîlikle bir anlam bulur. Bu da millî eğitimdir. Yani millî olan insanîdir, insanî olmak zorundadır. Eğitim de bu millî ve insanî karakteriyle evrensel olana, çağdaş medeniyete kapı açar. Böylece evrensellik-millîlik ikilemi insanîlikle aşılır ve bu süreçte en büyük rol eğitimindir. Aksi takdirde ya kozmopolitizme ya da dar bir yerelliğe mahkûm olunur. Bunlar ise çok ciddi kişilik problemleri doğurur. Eğitimin temel işlevi kişi değerleriyle kişi dışı değerleri uzlaştırmak ve millî duruşu bozmadan, kişiliği yok etmeden evrensel olana varmaktır. Böylece hem birey hem de toplum evrensel-insanî bir kişilik kazanmış olur.

Ömrünü Türk düşüncesi ve felsefesine adayan Hilmi Ziya'nın eğitimci yönüne ve eserlerindeki eğitim vurgusuna dair müstakil çalışmaların yapılmadığı görülmektedir. Her ne kadar eğitim felsefesi üzerine makaleler varsa da Ülken'in hocalığı, eğitime teorik ve pratik katkısı çok daha geniş ele alınabilecek bir potansiyel barındırmaktadır.