Asıl adı Mehmed Ziya'dır. Diyarbakır'da dünyaya geldi. Babası Mehmed Tevfik Efendi Diyarbakır valiliğinde vilayet evrak müdürü idi, 1883 yılında Mercimekörtmesi Mahalle Mektebi'ne başladı ve ilköğrenimini bu okulda tamamladı. 1886-1890 yılları arasında Diyarbakır Askerî Rüştiyesi'nde eğitim gördü. 1891 yılında Diyarbakır Mülkî İdâdîsi'ne kayıt yaptırdı fakat o dönem okulun beş yıldan yedi yıla çıkması üzerine 1894'te Mülkî İdâdî'den ayrıldı. Amcası Hacı Hasip Efendi'nin geleneksel medrese eğitimi derslerine katıldı, Arapça ve Farsça öğrendi. Bu süreçte Mülkî İdâdî'den öğretmeni Yorgi Efendi'den Batı felsefesi dersleri ve yine idâdîden öğretmeni olan Diyarbakır Maarif müdürü, Mehmet Ali Ayni'den de tarih dersleri aldı.

Amcasının teşvikiyle İslam felsefesinin klasik döneminin kaynaklarına yoğunlaşan Mehmed Ziya, haatının bu döneminde Namık Kemal, Muallim Nâci ve Ahmed Midhat Efendi gibi yazar ve düşünürleri de okudu. Gençlik yıllarında daha çok bu tür konulara yönelen ilgisi onda bir bunalım halinin ortaya çıkmasına sebep oldu. On sekiz yaşındayken bir intihar girişiminde bulundu. Bu durumun sebebini 1922'de "Bütün ıstıraplarımın kaynağı felsefî düşünüşlerimdi" diyerek açıklamıştır.

Babasının vefatının ardından yükseköğrenim için İstanbul'a gitti. 1895'te parasız yatılı Mülkiye Baytar Mektebi'ne kayıt yaptırdı. İstanbul'a gelişiyle birlikte dönemin siyasal gelişmelerine karşı aktif bir fikrî ilgi geliştirmeye başladı. Diyarbakır'da bir arkadaşının evinde bulunan mektubundaki "zararlı görüşleri" gerekçe gösterilerek son sınıf öğrencisi olduğu sırada 1898 yılında tutuklandı. Dokuz aylık hükümlülük süresinden sonra şartlı olarak tahliye edilip Diyarbakır'a gönderildi.

Ziya Gökalp, bu dönemde Fransız felsefesi, ruh bilimi ve sosyolojisi üzerine derinlemesine okumalar yaptı, siyasal faaliyetlerin içerisinde yer almaya devam etti. 1905 ve 1907 yıllarında gerçekleştirilen Telgrafhane Baskını olaylarına katıldı. Diyarbakır Valiliği'nde kâtiplik yaptığı bu sırada askerî rüştiyede Farsça dersleri verirken bir yandan da gençleri İttihat ve Terakkî'nin etrafında toplamaya çalıştı. Ziya Gökalp'in siyasal kimliğini etkileyen bir diğer önemli gelişme de 1908 yılında II. Meşrutiyet'in ilanı akabinde İstanbul'a davet edilmesidir. Kısa bir süre Dârülfünun'daki felsefe derslerini yürüttükten sonra İttihat ve Terakkî Cemiyeti'nin Diyarbakır, Bitlis ve Van illerini kapsayan "bölge müfettişliği"ne tayin oldu ve yeniden Diyarbakır'a döndü.

1909 yılında Selanik'te toplanan İttihat ve Terakkî Kongresi'ne Diyarbakır delegesi olarak katıldı. Kongrede genel merkez üyeliğine seçilerek cemiyetin gençlik ve eğitim biriminin başkanlığına getirildi. İttihat ve Terakkî İdâdîsi'nin kurulmasına öncülük etti ve okul müfredatında içtimaiyat (sosyoloji) dersinin yer almasını sağladı. Selanik'te bulunduğu 1910-1912 yılları arasında Genç Kalemler dergisinde farklı şiirleri ve makaleleri yayımlandı. Ali Canip Bey'in önerisi üzerine önce "Gök Alp" daha sonra "Gökalp" imzasını tercih etmeye başladı ve bu ismi bir soy adı gibi benimsedi; Selanik'ten İstanbul'a döndükten sonra ise bütün yayınlarında "Ziya Gökalp" imzasını kullandı.

1912 yılında Balkan Savaşı'nın patlak vermesiyle birlikte İttihat ve Terakkî Genel Merkezi Selanik'ten İstanbul'a taşındı; Ziya Gökalp de İstanbul'a döndü. Bu dönemde imparatorluğun kurtuluş reçetesi olarak sunulan "üç cereyan"a dair analizleri dikkat çekmiştir. Türk Yurdu'nda "Türkleşmek, İslamlaşmak, Muasırlaşmak" adlı makale serisinin ilki yayımlandı. Gökalp'in İstanbul'a geldiği yıl olan 1912, aynı zamanda üniversite reformuna dair çalışmaların da başladığı yıldır. Reformların gerçekleştirilmesi hususunda sorumluluk alan isimler arasında yer aldı. Nitekim 1913 yılında Dârülfünun'a sosyoloji profesörü olarak atandı ve 1915 yılında da ilk sosyoloji enstitüsünün kurulmasına öncülük etti.

Mondros Mütarekesi'nin imzalanmasının ardından İstanbul'un işgali sırasında İttihat ve Terakkî üyelerinin büyük bir bölümü ülkeyi terkederken Gökalp, Dârülfunun'daki içtimaiyat derslerine devam etti. Ancak 28 Ocak 1919 tarihinde tutuklanarak Dîvân-ı Harb-i Örfî Mahkemesi'ne sevkedildi. Yargılama sonucunda Malta'ya sürgüne gönderildi. 30 Nisan 1921 tarihinde sürgün hayatının sona ermesiyle birlikte Diyarbakır'a döndü. Bu dönemde, Cumhuriyet'in kurucu kadrolarını bünyesinde barındıran Ankara hükümetini fikrî anlamda destekledi. Görüşlerini Cumhuriyet, Yeni Gün ve daha sonra ismi Ulus olarak değişen Hâkimiyet-i Milliye gibi gazetelerdeki yazılarında açıkladı.

Cumhuriyet'in ilan edilmesinin akabinde gerçekleştirilen seçimde Diyarbakır milletvekili olarak Büyük Millet Meclisi'ne katılmaya hak kazandı. Ancak siyasetin yükü ağır geldi ve Ankara'dan İstanbul'a taşındı. Siyasal faaliyetlerin yoğunluğundan uzaklaşarak bilimsel çalışmalarına odaklanma arzusuna bağlı olarak Dârülfünun'a başvurduysa da başvurusu kabul edilmedi.

1924 yılına gelindiğinde, hazırlamakta olduğu Türk Medeniyet Tarihi isimli eseri üzerinde çalışırken hastalandı. 25 Ekim 1924 tarihinde kırk sekiz yaşındayken İstanbul'da vefat etti. Sultanahmet'teki II. Mahmud Türbesi haziresine defnedildi.

Türk düşünce hayatının en dikkat çekici isimlerinden biri olan Ziya Gökalp, yaşadığı dönem itibariyle bir imparatorluğun yıkılıp Cumhuriyet'in kuruluş sürecine şahitlik etti. Düşünsel çizgisi içinde bulunulan bu buhran ve geçiş dönemine yönelik bir tür "reçete" niteliği taşır. Bu bağlamda, vatanın kurtuluşunu ve Türk'ün "muasır" bir ulus olmasını fikrîi çabasının merkezine yerleştirmiştir. Gökalp, içerisinde yaşadığı toplumun sıkıntılarına çözüm önerisi sunmak isteyen bir fikir adamıdır. Çözüm önerisi ise milliyetçilik temelinde yükseldiğinden cevabını aradığı en hayatî soru "Nasıl bir millet olunur?" şeklinde belirir. Gökalp'e göre millet, "dil, din, ahlak ve sanat bakımından ortak olan, yani aynı eğitimi almış bireylerden oluşan topluluk"tur. Dolayısıyla ulusun kökeninde ırkî, kavmî, coğrafî ve siyasal ölçütler bulunmaz. Milliyetçilik bağlamında beliren temel sorumluluk ise bir millet olarak Türkler'in, uluslararası medeniyet içerisinde "hak ettiği" yeri alabilmesidir.

Fransız sosyolog Émile Durkheim'ın görüşlerinden de etkilenen Ziya Gökalp, dönemin toplumsal bunalımlarına dair sunduğu çözüm önerilerini "hars ve medeniyet" ayırımına dayandırır. Harsı millî, medeniyeti ise uluslararası bir çerçevede ele alır. Hars, milletlerin manevi dünyasını belirleyen ve "en başında bizim olan, bizi biz yapan" toplumsal dokudur. Medeniyet ise farklı ulusların ortak paydası haline gelen "ilim, fen, teknoloji, teknik ve kurumsal özellikler" şeklinde tanımlanır: "Harsa değerler, medeniyete kurumlar kaynaklık eder", "Hars duygularla, medeniyet yöntemle ilişkilidir", "Hars manevi, medeniyet maddi temellidir", "Hars vicdana, medeniyet akla hitap eder." Bu noktada harsın "millîlik" vasfının, medeniyetin ise "ortaklık" vasfının öne çıkarıldığı ifade edilebilir. Buna karşın hars ile medeniyet arasında tarihsel kökenleri bakımından birbirine yakın toplumsal unsurlar bulunur. Zira medeniyetin harstan doğduğunu savunan Gökalp'e göre her milletin başlangıçta kendine özgü değerleri; "hars"ı vardır. Tarihsel süreçte hars gelişir ve çeşitlenir, böylelikle de medeniyet doğar. Medeniyet farklı kültürlerden beslendiği için birçok ulusun ortak paydasını teşkil eder. Bu sebeple sadece herhangi bir milletin özgün karakterini yansıtmaz, aksine uluslararası bir nitelik taşır.

Gökalp, teorisinde millî harsı ön plana çıkarırken medeniyeti ikincil bir konuma sürüklemez. Nitekim bir medeniyetin parçası olmak millî değerlerin yok sayılması anlamına gelmez. Önemli olan ulusun, o medeniyetin içerisinde kendi varlığını korumak kaydıyla değerlerini yaşatabilmesidir. Bu bağlamda "muasırlaşmak" Batı medeniyetinin her geçen gün gelişen bilim ve tekniğini yakalamak, hiçbir Avrupa ulusundan geri kalmamaktır. Öyle ki Gökalp medeniyeti, bir "hayat tarz olarak kabul eden döneminin kimi yazarlarının aksine , "alet" olarak değerlendirir. Dolayısıyla "aleti almak" medeniyete adım atmak için iyi bir başlangıç, "aleti üretmek" ise nihaî bir idealdir.

Gökalp'in düşünsel ufku, ortak değerleri paylaştığından kendini Türk milletinden hisseden, bununla birlikte bilim ve teknolojide Batı medeniyeti düzeyine ulaşarak Avrupalılaşan ancak dinî inanışında da İslamiyet'i benimsemiş bir Türk toplumu ideali sunar. Bu toplumun varolması, geliştirilmesi ve sürekliliği için en önemli imkân eğitim olacaktır.

Gökalp 1917 yılında Muallim'de yayımlanan "Maarif Meselesi" isimli makalesinde, hars ve medeniyet arasındaki ilişkiyi zarf ile kâğıda benzeterek açıklar. Buna göre medeniyetin gereklerini yakalayamamış toplumlar zarfı olmayan kâğıda benzer. "Hars ise bu zarfın içine girebilecek en önemli kâğıttır ve üzeri toplumdaki mevcut değerler; örf, âdet, gelenek ve göreneklerle doludur." Gökalp'e göre eğitim sistemi bu millî kültür unsurları üzerine inşa edilmelidir. Eğitimin biri bireysel diğeri toplumsal olmak üzere iki temel amacı bulunur. İlk olarak eğitim bireylere karakter, kimlik ve mefkûre kazandırmalıdır. Gökalp'in Fransızca ideal kelimesini karşılamak üzere tercih ettiği bir kavram olan mefkûre, toplumda hemen herkesin iştirak edip ulaşma arzusu taşıdığı ortak bir düşünceyi ifade eder. Bunun yanı sıra eğitim bireylerin toplumsal değerler ve kültür etrafında bütünleşmesini sağlamalıdır. Bu kişisel ve toplumsal amaçlar, Gökalp'te eğitimin millî bir nitelik kazanmasıyla doğrudan ilişkilidir, çünkü dönemin "medrese" ve "mektep" biçimindeki ikili eğitim yapısının pedagojik açıdan parçalanma oluşturarak "ulusal birliği" tehdit ettiğini düşünmektedir. Bu eğitim kurumlarının müfredatında "Türk dili ve tarihinin öğretildiği millî bilgi; Kur'an-ı Kerim, tecvit, ilmihal, Arapça vb. öğretildiği dinî bilgi; matematik, Batı dilleri, beden terbiyesi vb. öğretildiği çağdaşlık bilgisi" çerçevesinde dersler yer alır. Gökalp bu gözlemlerden hareketle sentezci bir yaklaşım benimser ve eğitim sisteminin "Türklük eğitimi (millî eğitim), İslam eğitimi ve asrî (çağdaş) eğitim" şeklinde üç kısımdan oluşan bir program dahilinde kurgulanması gerektiğini savunur.

Gökalp'in eğitim felsefesi, hars ve medeniyet arasında yaptığı ayırımı yansıtan iki farklı paradigmayı içerir: Terbiye ve talim. Kısaca bireyin "harsa intibakını" terbiye, "fenniyâta (teknoloji) intibakını" ise talim olarak tanımlar. Modern kavramlarla ifade edilecek olunursa bu ayırım "değerler eğitimi" ve "beceri eğitimi" şeklinde okunabilir. Gökalp'e göre terbiye, toplumsal değerlerin içselleştirilmesine yönelik süreci ifade eder. Böylelikle birey; içine doğduğu toplumun dilini, edebiyatını, inancını, ahlakını, estetiğini ve mantığını kavrar. Bu açıdan millî terbiyenin amacı, bireylere kültürel değerlerin aşılanması ve toplumsal şuurun kazandırılması üzerine kurulu olmalıdır. Diğer yandan talim, medeniyete intibakla ilişkili olarak gerçeklik yargılarının toplamını ifade eden bilim ve tekniğin bireyin "zihnî melekeleri" haline getirilmesini kapsamalıdır. Talim sayesinde birey, insanoğlunun hayatı boyunca elde etmeye ve elinde tutmaya çalıştığı maddi güçleri kullanabilir hale gelir.

Gökalp'in düşünsel çizgisinde talim ve terbiyenin iki farklı hüküm alanına sahip bulunduğu anlaşılmaktadır. Terbiye, kaynağını toplumda bulan değer yargılarına dayanır ve ifade edildiği üzere bu değer yargılarının toplamı "hars" olarak kavramsallaştırılır, görecelidir ve bir milletten diğerine değişebilir. Talim ise olgulara bağlı hükümlere dayandığından bireyler ve toplumlar açısından değişmez. Bu çerçevede Gökalp terbiyenin millî (veya kültürel), talimin ise milletlerarası (veya medeniyete dayalı) bir nitelik taşıması gerektiğini savunur. Nitekim Türkçülüğün Esasları adlı eserinde, daha önce gerçekleştirilen eğitim reformlarının başarısızlığını hars-medeniyet ve buna bağlı olarak talim-terbiye arasındaki ayırımın farkına varılamamasına bağlar.

Eğitim ile kültür arasındaki kopukluğu "buhran" halinin kaynaklarından biri olarak gösteren Gökalp, eğitimi bir yönüyle medeniyetle diğer yönüyle de millî kültürle uyumlu ve tutarlı hale getirmenin gerekliliği üzerinde durur. Ancak dönem itibariyle Batı medeniyetinin teknikteki üstünlüğünün farkında olduğu için eğitim anlayışı Batılı olmak ile Türk kalmak arasındaki zihni arka planın bir ürünüdür:

"Hars ve terbiye bakımından Avrupa medeniyetine muhtaç olmadığımız halde, teknoloji ve talim yönüyle ona, son derece şiddetle muhtacız. Avrupa'nın bütün teknolojisini almaya çalışalım, fakat harsımızı yalnız kendi vicdanımızda arayalım. Millî terbiye ve muasır talim: İşte eğitim sahasında hedef edineceğimiz gaye!"

"Maarif ve Hars" isimli makalesinde eğitimi, "bir toplumda, yetişmiş neslin henüz yeni yetişmeye başlayan nesle, fikirlerini ve hislerini aktarması" olarak tanımlar ve bunun planlı-plansız biçimde gerçekleştiğinden bahseder. Plansız eğitimi "yaygın eğitim", planlı eğitimi ise "organize/örgün eğitim" şeklinde kavramsallaştırır. Buna göre yaygın eğitim, "yetişmiş" neslin konuşma, fiil ve tutumlarıyla toplumsallaşma sürecinde yeni nesli etkilemesidir. Organize eğitim ise "yetişmiş" neslin, resmî statüleri çerçevesinde yeni nesle çeşitli fikirleri ve teknikleri aktarmasıdır. Ona göre yaygın eğitimin kaynağı hars/millî kültürdür. Organize eğitimin kaynağı ise millî kültür ile muasır medeniyetin toplamıdır.

Gökalp, eğitimin yaygın ve organize olmak üzere iki biçimine bağlı olarak maarif konusundaki görüşleriyle, bu alanda yapılması elzem görünen reformları sistemli bir şekilde ortaya koyar. Döneminde çokça tartışılan reformların aşağıdan yukarıya mı yoksa yukarıdan aşağıya mı olacağı hususunda, eğitimde reformun yukarıdan aşağıya yani üniversiteden başlayarak ilkokullara kadar takip edilmesi gerektiğini savunur. Üniversiteyi en önemli eğitim kurumu olarak değerlendirir ve dönemin eğitim anlayışını ezberci niteliği çerçevesinde eleştirir. "Yaratıcı bilgi" üretme hususunda önemli bir rol yüklediği üniversitenin özgürce bilgi üretmesi gerektiğinin altını çizer.

Bu çerçevede Ziya Gökalp'in sistemli bir eğitim anlayışı ortaya koyduğu ifade edilebilir. Son tahlilde kendi sosyolojik/felsefî duruşuna uygun olarak geliştirdiği eğitim felsefesi, geleneksel eğitimle tekniğe dayalı modern eğitimi birleştiren ve kültürünü merkeze koyan "millî eğitim" kavramsallaştırmasıyla günümüze kadar etkili olan bir düşünce ağına sahiptir.