Sultan I. Abdülhamid dönemi sadrazamlarından Koca Yûsuf Paşa'nın torunu Şeyhülislam Ahmed Muhtar Bey'in oğludur. İstanbul'da dünyaya geldi. Asıl adı Mustafa Hâşim'dir. Sıbyan mektebini bitirdikten sonra Şehzade, Beyazıt ve Mercan camilerinde dinî ilimler ve Arapça tahsil etti. 1870 yılında Fetvahane'de göreve başladı. İki yıl sonra Meclis-i Tetkîkat-ı Şer'iye azalığı görevine getirildi. 1877 yılında Temyiz Mahkemesi başkanlığı görevine ek olarak Balıkesir nâipliğine atandı. Altı ay süren bu görevi esnasında üç ay mutasarrıflığa vekâlet etti. 1878 yılında Temyiz Mahkemesi azalığına, 1880 yılında Encümen-i Adliye reisliğine getirildi. 1888 yılında Temyiz Mahkemesi başmüddeîliğine, bir süre sonra ikinci başkanlığına tayin edildi. Aynı yıl Bâbıâli'de kurulan Islâhât-ı Adliye Komisyonu başkanlığını üstlendi. 1891 yılında Adliye Nezareti müsteşarı oldu. 1897'de Şûrâ-yı Devlet Mülkiye Dairesi üyeliğine getirildi. 20 Şubat 1899 tarihinde Trablusgarp valiliğine atandı. Bir yıl sonra istifa etti. 27 Temmuz 1903 tarihinde Maarif nazırlığına atandı ve rütbesi vezirliğe yükseltildi.
Hatıralarında belirttiğine göre, padişah ve idare aleyhine gösteriler başladığında, göreve devam etmenin doğru olmayacağına inandığı için Meşrutiyet'in ilan edildiği akşam istifasını vererek görevden ilk çekilen nazır oldu. İstifa dilekçesinde bir valiliğe atanmasını istediyse de talebi kabul edilmeyince emekliye ayrıldı ve sürgün edilecekler listesine kondu. Rütbesi sökülerek Limni adasında zorunlu ikamete tâbi tutuldu. Bir yıl sonra afla İstanbul'a geri döndü. Çok geçmeden Bebek'teki sahilhanesinde vefat etti. Vasiyeti gereği Beylerbeyi'ndeki Nakkaş Kabristanı'na defnedildi.
Hâşim Paşa babasının izinden giderek ilmiye sınıfına girmiş ve kazaskerliğe kadar yükselmişken sonradan mülkiyeye geçmiştir. Bu arada ilmî faaliyetlerde de bulunmuştur. Îzâhu'l-Kavâid (1874) adlı Arapça bir fıkıh risalesi kaleme almıştır. Ahmed Tâib'in III. Ahmed'e kadar olan Osmanlı padişahlarının hayatıyla ilgili Tuhfetü'l-Mülûk (1883) eserine Nuhbetü'l-Mülûk (1883) adıyla zeyil yazmış ve ikisi birlikte basılmıştır. Yayımlanan diğer bir eseri Mustalahât (1886) adlı Türkçe-Arapça bir lügattır. Nuhbetü'l-Kelâm fî Beyân-ı Râbıtai'l-İslâm adlı bir akait kitabı, Ebü'l-Leys Semerkandî'nin tercüme ettiği Bustânü'l-Ârifîn'i basılmamıştır. Emekliliği sırasında yayımladığı Tezkîr-i İnkılâb (1912) isimli hatıratında II. Abdülhamid dönemini değerlendirdikten sonra Meşrutiyet sürecini anlatmış, yeni rejime karşı çıkmamakla beraber İttihat ve Terakkî Cemiyeti'nin yanlış uygulamalarını eleştirmiştir. Hatıratının II. cildini de yazmış, fakat yayımlatamamıştır.
Hâşim Paşa'nın beş yıllık nazırlık döneminin sönük geçtiği kaydedilir. Hatıratının II. cildinde, görevi esnasında 500'den fazla ibtidâî, seksen rüştiye, Selanik ve Konya'da birer hukuk mektebi, İstanbul'da iki idâdî açıldığını ileri sürmüşse de Türk eğitim tarihiyle ilgili araştırmalarda kendisinden genellikle ya bahsedilmemekte veya olumsuz görüş ve icraatlarıyla anılmaktadır. Dönemindeki en önemli icraatı bütün okul programlarının değiştirilmesidir. Bu doğrultuda faydasız olduğu gerekçesiyle "ilm-i eşya" (tabiat bilgisi) gibi dersler kaldırılarak dinî muhtevalı derslerin sayısı arttırılmış, özellikle ilköğretim müfredatında "diyanet ve hüsn-i ahlâk derslerine" ağırlık verilmiştir. Yüksekokullara ilmiye sınıfından birer "müdîr-i sânî" atanmıştır.
Hâşim Paşa, saraya sunduğu 3 Temmuz 1906 tarihli maruzatında, padişahın isteği üzerine yaptığı ve o yıldan itibaren uygulanacak olan değişiklikleri sıralamış ve diğer düşüncelerini dile getirmiştir. Düzenlemelerin en dikkat çekici tarafı, ilköğretimin öneminin vurgulanması ve yaygınlaştırılmasının hükümet programına alınmasıdır. Paşaya göre idâdî ve yüksekokul mezunları yeterince dindar ve ahlaklı yetişmiyordu. Bunun kaynağında ise Fransa Elçisi Bourée'nin teşvikiyle 1868 yılında açılmış olan Mekteb-i Sultânî bulunuyordu. Benzer şekilde Dârülfünun ve diğer yüksek okullar da aynı yolda ilerlemiş, oralarda görev yapan muallimlerin yanlış fikir ve yöntemleri böyle bir sonucu ortaya çıkarmıştı. Bundan sonra yapılacak iş öncelikle ibtidâîlerin sayısını çoğaltıp ülke geneline yaymak, bunlara atanacak kadroların dindar ve iyi ahlaklı olmalarına ihtimam göstermekti. Dârülfünun diğer okulların öğrencilerine de kötü örnek olmaktaydı. Esasen Dârülmuallimîn'de okutulan dersler Dârülfünun'a gerek bırakmadığı için o yıldan itibaren oraya öğrenci alınmamalı, mevcut talebeler Mekteb-i Mülkiye, Mekteb-i Hukuk ve Dârülmuallimîn'e dağıtılmalı, nihayet Dârülfünun da kaldırılmalıydı.
Hâşim Paşa Beyoğlu'nda mahalle arasında kiralanmış dar bir binada faaliyet gösteren Rasathâne-yi Âmire'ye daha ferah bir mekân kazandırmak için Mekteb-i Sultânî'nin 1907'de geçirdiği yangın sonrası tamire alınmasını fırsat bilerek çok geniş olan arsasının bir bölümüne rasathane inşasını önermişti. Keşif defterini ve planını hazırlayarak inşaat komisyonuna sunmuş, ancak proje hayata geçmemiştir. Paşanın rasathane için Mekteb-i Sultânî arsasını seçmesi bu okula karşı önyargısındandı.
Hâşim Paşa "Okullar olmasaydı maarifi çok iyi yönetirdim" mealindeki sözüyle anılagelmiştir. Oğlu Yusuf Haşim, babasının hayattayken böyle bir söz sarfetmediğini, hiçbir yerde buna dair bir kayıt bulunmadığını ve ölümünden sonra üretildiğini belirtse de Birecikli Nazım Ekrem'in 1910 yılında yayımlanan risalesi onu tekzip etmektedir.
