Ankaralı Seb'azade ailesine mensuptur. Dedesi ulemadan Hasan Efendi, babası Tebriz maslahatgüzarı Ali Nâmık Efendi'dir. Babasının görevinden dolayı ailesinin bulunduğu Erzurum'da dünyaya gelmiştir. Erzurum'da İbrâhim Paşa Camii Medresesi'ne dört yıl devam etmiş, İstanbul'a çağrılan babası 1853 başında burada vefat edince eğitimine ara vererek memuriyete başlamak zorunda kalmıştır. 1856 yılında Anadolu Ordusu Tahrirat Kalemi'nde çalışmaya başlamış, 1858'de ordu heyeti ile İstanbul'a gelmiştir. Bir süre Maliye Nezareti'nde memuriyetten sonra, 1858 yılı sonunda Meclis-i Vâlâ'da görevlendirilmiştir.

Mehmed Said İstanbul'da bir taraftan memuriyetini sürdürüp diğer taraftan da yarım kalan eğitimini tamamlamak için Ayasofya Medresesi'nde başladığı derslerini yedi sekiz sene devam ettirmiştir. Zaman zaman görevleri sebebiyle yaşanan kesintilere rağmen medresenin müfredatında olan Arapça sarf-nahiv, mantık, fıkıh, fenn-i hesap, coğrafya ve tarih derslerini tamamlamış ancak bunlarla yetinmeyerek özel hocalardan da hukuk, ekonomi politik (fenn-i servet) Farsça ve Fransızca dersleri alarak kendini yetiştirmiştir.

1860-1866 yılları arasında, Adalar Belediye başkanlığı, Yanya vilayeti Meclis-i Kebir başkitabeti, Meclis-i Vâlâ Nezareti Tahrir İdaresi başkitabeti, Selanik vilayeti mektupçuluğu gibi görevlere atanmıştır. Yazı yazmaya meraklı olduğundan bu görevlerine ilave olarak Rûznâme-i Cerîde-i Havâdis gazetesinde musahhihlik yaparken imzasız yazılar da yayımlamıştır. Hatta bu sırada bir yazısı dolayısıyla dönemin meşhur gazetecisi ve fikir adamı Şinâsi ile edebî bir tartışmaya girişerek Türk basın hayatında "mebhûsetün anh/anha meselesi" olarak bilinen ilk kalem tartışmasını başlatmıştır. Basına olan ilgisi onu 1867 yılında Matbaa-yı Âmire ve Takvîm-i Vekâyi' müdürlüklerine getirilmesini sağlamıştır.

Bürokraside Şûrâ-yı Devlet Adliye Dairesi başmuavinliğine bir süre sonra da Dahiliye ve Muhâkemat dairelerinin başmuavinliklerine getirildi. Bu görevleri sırasında mülkî idare, maarif ve nâfıa işleri ile ilgili birçok nizamname ve layihalar kaleme almasıyla dikkati çekince 1871'de Şûrâ-yı Devlet Dîvân-ı Ahkâm-ı Adliye başkitabetine tayin edildi. Damad Mahmud Celâleddin Paşa'nın Ticaret ve Nâfia nazırlığı sırasında, 1874'te nezaretin mektupçuluğuna atanan Mehmed Said, Sadrazam Hüseyin Avni Paşa'nın isteği ile sadaret mektupçusu oldu. Ekim 1875 yılına kadar sürdürdüğü bu yeni görevinde üç sadrazamla çalışma imkânı buldu. Sadrazam Mahmud Nedim Paşa onu sadaret müsteşarlığına atayacağını vaat etmesine rağmen Maarif Nezareti mektupçuluğuna tayin etmesi üzerine memuriyetten istifa etmiştir. Yaklaşık üç ay açıkta kalmış, Ticaret Nazırı Damad Mahmud Paşa'nın teklifi ile Meclis-i Ticaret ve Ziraat azalığına tayin edilerek yeniden bürokrasiye dönmüştür.

II. Abdülhamid, 31 Ağustos 1876'da tahta geçtiğinde Mehmed Said'i de Midhat Paşa ve ekibinin talepleri hilafına, padişah ile hükümet arasındaki ilişkiyi sağlayan mâbeyin başkâtipliğine getirdi. Aynı sıralarda Eğinli Said Paşa da mâbeyin ferikliğine atanınca karıştırılmaması için boyunun kısalığından dolayı kendisi Küçük Said Paşa olarak anılmaya başlandı. Küçük Said Paşa, 8 Kasım 1876'da mâbeyindeki görevine ilave olarak Hazîne-yi Hâssa nazırı oldu.

İlk Osmanlı anayasası olan Kanûn-ı Esâsî'nin hazırlanmasında katkılarda bulunmuş ancak bazı maddelere sarayın lehinde müdahale etmekle de suçlanmıştır. Osmanlı-Rus Harbi'nde (1877-1878) padişahın savaşı yönlendirmesine imkân hazırladığı ve hükümetin nüfuzunun saraya taşınmasında II. Abdülhamid'i teşvik ettiği iddialarıyla tenkit edilmiştir. Bu dönemde anayasa ve idare hukukunun tanzimi, Mekteb-i Mülkiye nizamnamesinin hazırlanması gibi önemli hizmetlerde bulunmuştur.

Said Paşa, 11 Ocak 1878'te Hamdi Paşa'nın kabinesine Dahiliye nazırı olarak girdi. Ancak üç hafta sonra Hamdi Paşa'nın yerine Ahmed Vefik Paşa atanınca onun isteği ile nazırlıktan azledilince önce ikinci kere Hazîne-yi Hâssa nazırlığına (14 Şubat 1878) ardından da Âyan reisliğine tayin edildi (18 Nisan 1878). V. Murad'ı tahta geçirmeyi amaçlayan Çırağan Vakası akabinde merkezden pek çok kişi taşraya tayin edilirken Said Paşa da Ankara valiliğine atandıysa da görev yerini Bursa valiliğine dönüştürdü (10 Haziran 1878). Bursa'da altı ay kadar valilik yaptı. 28 Kasım 1878'de üçüncü defa Hazîne-yi Hâssa nazırlığına getirildi.

Ayastefanos Anlaşması, Kıbrıs Muahedesi, ardından Berlin Anlaşması devleti hayli zora sokmuş ve yeni güçlü bir kabinenin oluşturulması zarureti doğmuştu. Bu amaçla II. Abdülhamid Tunuslu Hayreddin Paşa'yı sadarete getirdiğinde (4 Aralık 1878) Said Paşa'nın da kabinede Adliye nazırı olarak görev yapmasını istemiştir. Adliye nazırlığı sırasında Adliye'nin teşkilat nizamnamesini hazırlatmış, nizamiye mahkemelerini şekillendirmiş ve mahkemelerde savcılık (muddeiumumilik) görevi ihdas etmiştir. Ayrıca devletin malî işlerini düzenlemek üzere kurulan komisyonda üye; aynı komisyonun varidat şubesinde de başkan sıfatı ile yer almıştır.

Küçük Said Paşa, 8 Ekim 1879 tarihinde başvekâlet unvanı ile ilk defa sadrazamlığa getirildi. İlk sadareti kısa sürdü ve 9 Haziran 1880'de azledilerek âyanlığa tayin edildi. Bundan sonraki yaklaşık otuz yıl içerisinde muhtelif tarihlerde altı defa daha sadaret görevine getirildi. II. Abdülhamid tarafından özellikle zor zamanlarda tecrübesi ile durumun üstesinden gelebilecek bir devlet adamı olarak değerlendirildi.

En son Osmanlı İttihat ve Terakkî Cemiyeti'nin Meşrutiyet'in yeniden ilanı için baskıları üzerine 22 Temmuz 1908'de sadaret görevine getirildi ve II. Meşrutiyet'in ilk sadrazamı oldu. Ancak tekrar görevi sırasında İttihat ve Terakkî'nin muhalefetiyle karşılaşınca kurduğu kabine zor durumda kaldı. Önce kabinesindeki bazı nazırlar akabinde de kendisi istifa etti (4 Ağustos 1908). 19 Aralık 1908'de, yeniden açılan Meclis-i Âyan reisliğine getirildi. 31 Mart hadiseleri sırasında bu görevde olan paşa, otuz yıldan fazla beraber çalıştığı Sultan II. Abdülhamid'in hal' kararını veren Meclis-i Millî'nin de başkanlığını yaptı.

İtalya'nın Trablusgarp'a asker çıkaracağını bildirmesi üzerine Sadrazam İbrâhim Hakkı Paşa kabinesi istifa edince yeni kabineyi kurma görevi 30 Eylül 1911'de Küçük Said Paşa'ya verilir. Paşa Trablusgarp meselesinde sonuç alamaz ve işgali önleyemez. Meclisteki muhalefet savaşın sorumlusu olarak hükümeti ve İttihat ve Terakkî Fırkası'nı görür. Siyasî geleceklerini sıkıntılı gören İttihatçılar meclisi feshettirmek için anayasanın 35. maddenin tadil edilmesini teklif ederler. Ortaya çıkan bu durumdan rahatsız olan ve ayrıca meclisi fesih fikrinin de ondan çıktığı söylentilerine maruz kalan Said Paşa, 30 Aralık 1911'de istifa ederse de bir gün sonra hükümeti kurma görevi yine kendisine verilince dokuzuncu sadareti başlamış olur. Meclisteki gerginlikler ve siyasî ortam karşısında Meclis-i Âyan, dayanamayarak meclisin feshine karar vererek zımnen İttihatçılar'ın taleplerini yerine getirir. Bu gelişmede Küçük Said Paşa'nın belirgin bir rolü olmamasına rağmen kabinesinin ağırlıklı olarak İttihatçılar'dan oluşması sebebi ile ciddi tenkitlere uğrar. Tarihimize sopalı seçimler diye giren 1912 seçimleri bu şartlar altında ve Küçük Said Paşa'nın sadrazamlığında gerçekleşir. İttihat ve Terakkî Fırkası döneminde de iki defa daha sadrazamlığa getirilen paşa, İttihatçılar'ın baskılarına seyirci kalmaktan öteye bir şey yapamadı ve 18 Temmuz 1912'de istifa etti. Paşanın siyasî hayatı bu tarihte bitti. Her ne kadar 31 Ocak 1913'te Şûrâ-yı Devlet reisliğine, 12 Haziran 1913'te de yeniden Âyan Meclisi reisliğine getirildiyse de kayda değer bir faaliyeti olmadı. 1 Mart 1914 tarihinde vefat etti ve Eyüp'te Eyyûb Ensârî'nin türbesinin çıkış kapısı önündeki çınarın altına defnedildi.

Devlet adamlığının yanı sıra bir fikir adamı olan Said Paşa düşünceleriyle II. Abdülhamid'in eğitim politikalarında etkili olmuştur. Fikirlerini görevde iken kaleme aldığı layihalarında ve II. Meşrutiyet yıllarında yazdığı hatıralarında görmek mümkündür. Osmanlı eğitim sisteminde önemli yeri olan idâdîlerin ve bir derleme kütüphanesi olarak Beyazıt Kütüphanesi'nin kuruluşlarında Said Paşa'nın büyük hizmetleri olmuştur. Paşaya göre kalkınmanın temelinde eğitim yatmaktadır. Bu itibarla II. Abdülhamid'e sunduğu umumi ıslahat layihalarında en çok eğitimin yaygınlaştırılmasından söz etmiştir. Zaman zaman da sadece maarifi ilgilendiren layihalar kaleme almıştır.

Adliye nazırı iken sunduğu bir layihada eğitimin önemini vurgulayarak ilkokuldan üniversiteye kadar çeşitli eğitim kurumlarının açılmasını teklif etmişti. Buna göre vilayetlerde sultânîler, maarif müdürlükleri ve müfettişliklerin ihdasını, ilköğretim masraflarının halka yükletilip yapılan tasarrufla bir dârülfünun (üniversite) açılmasını istemiştir. Ayrıca rüştiyelere Fransızca dersinin konulmasını, müze ve kütüphanelerin açılmasını teklif etmiştir. 1879 tarihli başka bir layihasında da maârif-i umûmiyeye ait bir dizi tavsiye ve teklifte bulunarak hıristiyanların zamanın ihtiyaçlarına göre eğitim yaptıklarını hatırlatmış, müslüman tebaanın eğitimsiz kalmasının ise ağır sonuçlar vereceği ihtarını yapmıştır. Paşa bu yüzden bir an önce gerekli okulların açılmasına teşebbüs edilmesini önermiştir.

Said Paşa, bu fikirlerini daha sonra bütüncül bir program haline dönüştürmüş ve 1881'de Meclis-i Vükelâ'da okuduğu bir layihasında "Maârif-i Umûmiye" başlığı altında şu hususlara yer vermiştir: Her eyalet merkezinde bir dârülulûm, bir dârülfünun, bir dârülmuallimîn, ayrıca ziraat, turûk ve meâbir, sanâyi-i nefîse ile orman ve ticaret mektebi tesis edilmelidir. Her vilayet merkezinde bir maarif müfettişi ve bir maarif meclisi bulunmalıdır. Sultânîler sancak merkezlerinde, rüştiyeler kaza merkezlerinde, ibtidâiye ve basit sanat mektepleri nahiye merkezlerinde faaliyete geçirilmelidir. Ayrıca her nahiye merkezinde ticaret, ziraat ve sanayiye dair kitaplarla haritalar bulunan umumi bir kütüphane kurulmalıdır.

Paşaya göre, her vilayetin dârülulûmu beş bölümden meydana gelecektir. Bunlar ilm-i hukuk (hukuk bilimi), ulûm-ı tabîiye ve riyaziye (doğa bilimleri ve matematik), ulûm-ı hikemiye ve edebiye (felsefe ve edebiyat) ve ulûm-ı ilâhiye (ilahiyat) kısımlarıdır. Ayrıca mevcut İslamî medreseler ve gayrimüslimlerin dinî okulları her sınıftan ahali için ilahiyat eğitimi veren kurumlar kabul edilmelidir. Dârülulûm, sultânîlere öğretmen yetiştirecektir. Dârülfünun her türlü sanayi için mühendis, özellikle belediye mühendisleri, fabrika müdürleri ve reisleri mezun edecektir. Paşanın bu projesinin en önemli özelliği kuşkusuz hemen her konuda ilk dereceli ve ihtisas okullarının açılmasını öngörmesi, ayrıca okulların sadece merkezde değil taşralarda açılmalarını istemiş olmasıdır. Zira hemen her bölgede aynı eğitim kurumlarının açılması, günümüzde bile gündemde olan eğitimde fırsat eşitliğinin sağlanması bakımından önemlidir. Paşanın bu fikirlerinin çoğu teoride kalmış olmakla birlikte, önemli bir kısmı da uygulamaya konulmuştur. Said Paşa'nın önerisiyle idâdîlerin yapımı ve işletilmesi amacıyla 1883'te Maarif Hisse İanesi adıyla bir vergi ihdas edilmiştir.

Çok velut bir yazar olan paşanın arşivlerde ciltler oluşturacak kadar çok layihası bulunmaktadır. Hayatta iken kendi savunmasını yapan ve fikirlerini ortaya koyan eser ve hatırat kaleme alan nadir isimlerden biridir. Kaleme aldığı, Mektuplar (İstanbul 1324), Said Paşa'nın Kâmil Paşa'nın Hatıratlarına Cevapları (İstanbul 1327), Gazeteci Lisanı (Dersaadet 1328), Said Paşa'nın Hatıratı (üç cilt, Dersaadet 1328) önemli eserleridir.