İstanbul'da doğdu. Âyan Meclisi üyesi olan babası Ali Rızâ Bey, Sultan II. Abdülhamid döneminde sürgün edilmiş bir Osmanlı bürokratıdır. Avusturyalı olan annesi müslüman olunca Naile adını almıştır. Ahmed Rızâ Bey'in kişiliğinin gelişiminde ve eğitim, özellikle kadınların eğitimi konusundaki görüşlerinin oluşmasında annesinin etkisi büyük olmuştur.

Sıbyan mektebi, Mahrec-i Aklâm ve Galatasaray Sultânîsi'nde öğrenim gördü. Bir dönem Mekteb-i Mülkiye'de de öğrenci oldu ama tamamlamadı. Klasik Fars, Arap ve Osmanlı edebiyatı konularında kendini iyi yetiştirdi. 1876 tarihli eseri Osmanlı Devleti'nde av ve avcılık üzerine ilk yayındır.

Hariciye Nezareti Tercüme Odası memuru olarak başladığı görevinden 1882'de istifa etti ve sürgündeki babasının yanına gitti. 1915'te mecliste söylediği, "Memleketimizde en ziyade para sarfına ihtiyacı olan bir daire varsa, o da şüphesiz Maarif ve ondan sonra Ziraat'tır" sözü Anadolu'da geçirdiği yıllardaki gözlem deneyimlerine dayanmaktadır.

1884'te Fransa'ya gitti. Institut National Agronomique de Grignon'da ziraat eğitimine başladı. Ancak babasının vefatı sebebiyle mezun olamadan 1887'de dönerek Maarif Nezareti'nde çalışmaya başladı. 1887'de Bursa İdâdî-yi Mülkî'de müdür ve kimya öğretmeni olarak görev aldı. 1888'de Bursa Maarif müdürü oldu. Bursa okulları ve eğitimi hakkında 6 Mayıs 1889 tarihli bir rapor hazırlayarak hıristiyan misyonerlerin faaliyetleri örneğinden hareketle devletin eğitim konusundaki eksiklerini dile getirdiği bu raporunda eğitimde fırsat eşitliği üzerinde durdu. Kız çocuklarının eğitiminin halkın mutluluğu için şart olduğuna dikkat çekti. Darüşşafaka, Dârülmuallimîn-i Sıbyân ve İdâdî-yi Mülkî ile kültürel ve ekonomik canlanmanın sağlanabileceğini savundu. Ona göre verimlilik, üretim ve siyasî iradenin eğitimi desteklemesi ile öğretmen eğitiminin uygulamaya da dayanması önemlidir. Bursa'da Fevâid adlı dergideki yazılarında bilim ve eğitim aracılığı ile toplumun kalkınabileceği fikrini yaymaya çalışmıştır.

1889'da Sultan II. Abdülhamid yönetiminde istediği gibi çalışamayacağı gerekçesiyle Paris'e döndü. 1908'e kadar kaldığı yurt dışında ekonomik zorluklar ve siyasî baskılar yaşadı. II. Meşrutiyet'in ilanı ile 25 Eylül 1908'de İstanbul'a döndü ve Mebusan Meclisi reisi seçildi. Dört yıl kadar süren bu görevinin ardından Ocak 1912'de Âyan Meclisi üyesi oldu.

23 Ocak 1913'te Bâbıâli Baskını sonrası İttihat ve Terakkî Cemiyeti ile arası açılınca Fransa'ya döndü. 1918'de Âyan Meclisi reisliğine seçildi.

Ahmed Rızâ Bey'e göre bireye toplumsal sorumluluklarını öğretmek, toplumun ilerlemesi ve en önemlisi de adaleti sağlamak için en mühim araç eğitimdir. Türkçe'nin Osmanlı Devleti'nde yaşayan herkese öğretilmesini savunmuş, Türkçe'nin geliştirilmemiş olmasını, yaşanan sorunların ana sebepleri arasında görmüştür. Devletle toplum arasındaki kopukluğun eğitimle aşılabileceğini medeniyetin esasının da eğitim olduğunu belirtmiştir. Eğitim ile ilgili yazılarında ilerleme, eğitim, öğrencilerin durumunun iyileştirilmesi, kütüphanelerin düzenlenmesi ve iyileştirilmesi konuları üzerinde durmuştur. Toplumun eğitim aracılığı ile kültürel yapısının iyileştirilmesini, ziraat ve sanayi aracılığı ile de kalkınmasını amaçlamıştır.

Çocukların eğitiminin küçük yaştan itibaren ele alınmasını önemsemiştir. Ders programlarının devletin kanunları ile uyumlu olması gerektiğine vurgu yapmıştır.

Laik eğitimin uygulanmasıyla toplum içi birlik ve bütünlüğün sağlanacağını, böylece din farkının ayrılıkçı hareketleri destekleyen bir güç olmaktan çıkacağını ileri sürmüştür.

1918'de Âyan Meclisi'nde eğitim konusunda İttihat ve Terakkî hükümetinin icraatını eleştirirken Sultan II. Abdülhamid döneminde daha az bütçe ile İttihat ve Terakkî döneminden daha iyi iş çıkarıldığını belirtmiştir.

Maariften beklediği en önemli şeyin milletin ahlakını yükseltmeye hizmet etmek olduğunu, ahlak derslerinden olumlu sonuçlar alınamaz ise ulum, fünun ve lisan derslerinden de olumlu sonuçlar alınamayacağını savunmuştur.

Muallimlerin seçilmesindeki yanlışlıkları ve programların düzgün ve düzenli olmamasını dile getirmiştir. Sorunların çözümü için önerilerini ders programlarının her seviyede kolay takip edilir olması, ihtisas sahibi âlimler ve muallimlerin olması, milletin serveti göz önünde tutularak teşkilatın muhafaza ve hüsnüidamesinin sağlanması şeklinde sıralamıştır.

Kadınların eğitiminin kamu eğitiminin önemli bir alanı olduğunu belirtmiş, ayrıca sadece örgün değil yaygın eğitimde de devletin sorumluluğu bulunduğunu dile getirmiştir.

Alman Maarif müfettişi F. Schmidt'in 1915'te ve 1918'de Maarif Nezareti'nde görevlendirilmesini eleştirmiştir. Kendi sorunlarımıza kendimizin çözüm bulması gerektiğini belirtmiştir.

Daha 1900'de Paris'te toplanan Barış Kongresi'nde Avrupalılar'ın eğitim kurumları aracılığı ile Osmanlı toplumuna hıristiyan kültürünü yerleştirme girişimlerini eleştirmiş, İslamiyet'in ilmi herkese farz kıldığını belirterek bunu kadına lüzumsuz görenlerin düşüncelerinin yanlışlığını daima vurgulamıştır. Kişisel girişimleriyle bir kız okulu açılması için çaba gösteren Ahmed Rızâ Bey, bu okulun açılması ve işlemesi için 1909 yılında başkanlığını üstlendiği Mekteb-i Sultânî-yi İnâs Cem'iyet-i Hayriyesi'nin kurulmasını sağladı. Kandilli Âdile Sultan İnâs Mekteb-i Sultânîsi adlı bu okulun açılışı 17 Ekim 1909'da kararlaştırılmıştı. Ancak okul, Trablusgarp, Balkan ve I. Dünya savaşları sebebiyle ancak 1916'da açılabildi. Okul İstanbul'un ikinci kız lisesi idi.

Ömrünün neredeyse üçte ikisini eğitim konusunda düşüncelerini yaymak ve gerçekleştirmek için geçirmiş olan Ahmed Rızâ Bey evinde düşerek kalça kemiği kırılınca Şişli Etfal Hastanesi'ne kaldırılmış, bir buçuk ay kadar süren tedavisi sonuç vermeyince 26 Şubat 1930 Çarşamba günü vefat etmiştir. Çaprazlı Çiftliği'ndeki hissesini, kitaplarını satarak elde ettiği paranın kalanını Maarif'e bırakmak istemiş ancak, vasiyetnamesinin kanunî şartlara uygun yapılmadığından bu isteği gerçekleşmemiştir.