Asıl adı Mehmed Ali'dir. Eserlerinde kullandığı Ali Nazîmâ ismiyle tanındı. İstanbul Üsküdar'da Doğancılar semtinde doğdu (8 Temmuz 1861). Babası Hilâliahmer'in kurucularından olan Yarbay Ahmed Servet Bey, annesi Seniye Hanım'dır. Baba tarafından aile kökleri Kemah'a, oradan da Kafkasya'ya uzanmaktadır. Soyadı kanunu çıkınca Yiğit soyadını almıştır. Millî Mücadele döneminin tanınmış isimlerinden, yedi dönem (1923-1950) milletvekilliği de yapmış İbrahim Süreyya Yiğit (1880-1952) baba bir kardeşidir. Dilara isminde bir öz kardeşi de olan Ali Nazîmâ'nın, Bahattin adında bir oğlu vardır.

İlk ve orta öğrenimini Üsküdar'da Doğancılar Sıbyan Mektebi ve Paşakapısı Rüştiyesi ile Mahrec-i Aklâm'da tamamladı. Ardından girdiği Galatasaray Mekteb-i Sultânîsi'ni bitirdi. İki yıl Mekteb-i Mülkiye'nin yüksek kısmında okudu. 1881'de Galatasaray Mekteb-i Sultânîsi'nin Türkçe ve Arapça hocalığına atanarak elli yıldan fazla sürecek eğitimcilik mesleğine adım attı. Bir süre sonra ek olarak Mekteb-i Mülkiye'nin Fransızca hocalığı da kendisine verildi (28 Kasım 1885). Galatasaray Mekteb-i Sultânîsi'nde ders nazırı olunca (1893) Mülkiye'deki Fransızca hocalığını bıraktı.

Bu görevleri devam ederken sultânî hocalarından Necip Bey ile Cağaloğlu'nda Mekteb-i Edeb isminde bir özel okul açtı (Kasım 1888). Okulun ders nazırlığı ile müdürlüğünü üstlendi. İki yıl sonra Beyazıt'ta daha geniş bir yere taşınarak kız öğrenci de kabul etmeye başladı. Ayrıca Arapça ve Farsça öğretmek üzere dershaneler açtı. Ali Nazîmâ'nın Maarif Nezareti Tedkîk-i Müellefât Komisyonu üyeliğine getirilmesi ve Necip Bey'in ölümüyle okul kapandı (1890).

Ekim 1892'de Mekteb-i Sultânî'deki ders nazırlığından Aşiret Mektebi müdürlüğüne atandı (bk. Aşiret Mektebi). Sonrasında (Şubat 1895) Mekteb-i Mülkiye müdür muavinliğine getirildi. Aynı okulda Fransızca hocalığı ile Dârülfünun Ulûm-ı Tabîiye ve Dîniye Şubesi müdür muavinliğini (21 Aralık 1895) beraberce yürüttü. Mercan İdâdîsi'nde Fransızca ve tercüme usulü (14 Kasım 1900), Dârülmuallimîn ile Vefa İdâdîsi'nde Fransızca (1906) okuttu.

1909 yılı başında Mekteb-i Mülkiye'deki idarecilik görevinden ayrıldı. O yıl içinde Dârülfünun'un Filoloji (Elsine) Şubesi Türk dili müderrisliği, aynı zamanda Kadastro Mektebi müdürlüğüne atandı. Kadastro Mektebi'nin kapatılıp Dârülfünun derslerinin ise kaldırılması üzerine açıkta kaldı. 1916 yılında, yeni kurulan İnâs Dârülfünunu müdürlüğüne getirildi. Ayrıca kavânîn-i câriye hocası oldu. 1919'da önce Maarif Nezareti Telif ve Tercüme Heyeti'ne üye, ardından Mercan Sultânîsi'ne müdür oldu. 1920'de müdür olarak Dârülmuallimât-ı Âliye'ye geçti. Okulun Fransızca hocalığı da üzerindeydi. Müdür ve Fransızca hocalığı göreviyle bu kere de Nişantaşı Sultânîsi'ne atandı (1921). 1924'te Kadıköy, Davutpaşa, Gaziosmanpaşa orta mektepleri Fransızca hocalığı görevlerinde bulundu. Yaş haddinden 1925 yılında emekli oldu. O yıl Maarif Vekâleti, "Fazilet Mükâfatı" için İstanbul Muallimler Birliği'nden bir aday belirlemesini isteyince Birlik Genel Kurulu Nazîmâ'yı teklif etti.

Emekliliğinden sonra Özel Saint Benoit Fransız Lisesi ile Amerikan Erkek ve Kız kolejlerinde Türkçe, Üsküdar Muhtelit Ortaokulu'nda Fransızca hocalıklarında bulundu. 3 Mart 1935'te vefat etti. Üsküdar'da Karacaahmet Mezarlığı'nda toprağa verildi. Kadıköy Koşuyolu'nda bir sokağa adı verilmiştir.

Dürüst ve çalışkan kişiliği ile tanınan Ali Nazîmâ, sansasyondan uzak, kalem kavgalarına karışmadan hizmetlerini sürdürmüştür. Bir eğitimci olarak hoca, ders nazırlığı, idarecilik gibi görevleri yanında, ibtidâiye ve rüştiye seviyesinde, çok sayıda ders kitabı da hazırlamıştır. Modern eğitim metotlarını takip eden bir eğitimcidir. Bu yolda İsviçreli pedagog J. H. Pestalozzi'nin (ö. 1827) eğitim anlayışını kendine rehber edinmiş, daha kolay öğrenme, çocuğa görelik ve çocuklar nelerden hoşlanır gibi konulara cevap aramıştır. Çocuklar Bahçesi (İstanbul 1306) adlı eserinin girişinde okullarda sınıfların geniş, aydınlık ve havadar olması üzerinde durur. Duvarlara, gösterilecek derslere ait şekilleri içerir haritalar, resimler asılmalıdır.  Çocuklar yer değiştirebilen arkalıklı sıralarda oturmalı, karşılarında derslerin gösterilmesi için bir kara tahta olmalıdır. Bahçede özel oyun alanı yanında her çocuğun ekip biçmesi için küçük birer tarlası da bulunmalıdır.

Eğitimde ezberlemeden yana değildir (bk. Ezber). Görüntünün öğrenmedeki olumlu rolüne inanır. Bunun için çocuklara yönelik eserlerinde bolca görsel kullanma taraftarıdır. Bazı kitaplarında muallimlerin soracağı soruları da hazırlamış, konuların müzakereye açıldığı aktif eğitim metodunu benimsemiştir. Eserlerinde devrin bir maarif asrı olduğu vurgusu hissedilir.

Eğitimde ahlakçı bir tutumu benimseyen Ali Nazîmâ'nın teorik ahlak meselelerine eğilmek yerine, pratik ahlakî amaçlar güttüğü söylenebilir. Ahlak ve huyun değişip değişmeyeceği sorusuna cevabı, bunların eğitim yoluyla değiştirilebileceği yönündedir. Ondaki bu düşünce, İslam ahlak anlayışının ve eğitiminin bir yansımasıdır. Eserlerine bakarak, vazife ahlakı anlayışıyla meselelere yaklaştığı söylenebilir. Seçtiği konuları tahkiye usulünü de kullanarak işlemiş, ahlakî bilgileri çocuk ve gençlerin ilgisini çekecek okuma parçaları içinde öğretme yoluna gitmiş, rüştiyeler için yazdığı kitaplarda, yer yer ilgili ayet ve hadislere de yer vermiştir.

Eserleri: Başta dil eğitim ve öğretimi olmak üzere hesap, tarih, coğrafya, ahlak, akait, ilmihal, ev idaresi konularında, irili ufaklı 100'den fazla ders kitabı bulunmaktadır. Bazıları çeviri-uyarlama eserlerdir. Lisân-ı Osmânî (İstanbul 1885), Haritalı Küçük Târîh-i Osmânî (İstanbul 1889), Oku-Yeni Risâle-i Ahlak ve Vezâif-i Etfâl (İstanbul 1890), Hey'et-i Arz (İstanbul 1890), Yeni Hesab (İstanbul 1891), Akâid-i İslâmiyeden İlm-i Hâl-i Kebîr (İstanbul 1892), Küçük Coğrafya (İstanbul 1894), Ta'lîm-i Benât Vezâif-i Umûr-i Beytiye (İstanbul 1898), Sünbülistan yahut Kıraat-ı Fârisî (İstanbul 1900), Kıraat-ı Müfîde ve Zirâiye (İstanbul 1910),  Bak Öğren yahut 650 Şekil ile Ma'lûmât-ı Fenniye ve Dürûs-ı Eşya (İstanbul 1912), Meşrutiyet Kıraati (İstanbul 1912) bu konularda örnek verilebilecek eserlerindendir.

Osman Nuri Ergin, Türkiye Maarif Tarihi'nde, alfabe ve eğitim usullerinin değişmesiyle bu ders kitaplarının artık okunmaz olduğunu belirtmiştir. Yazarın ayrıca Çay (İstanbul 1309), Barbaros'un Hafîdi Metin Hamidiye'nin Kahraman Kumandanı Rauf Bey (İstanbul t.y.), Çukulata (İstanbul 1309) gibi kitapçıklarıyla; Ahn'den Mükellim (İstanbul 1303), Zemahşerî'den Nevâbigu'l-Kelim (İstanbul 1303), Sa'dî-yi Şîrâzî'den, Yeni Müntehabât-ı Gülistân (İstanbul 1326) gibi çeviri eserleri bulunmaktadır.

Fransızca öğretimi için hazırladığı çok sayıda kitap Cumhuriyet döneminde de okullarda okutulmuştur. Emekliliğinden sonra hazırladığı La Clef du Français (İstanbul 1932; 1934) Talim ve Terbiye Kurulu tarafından orta dereceli okullar için ders kitabı olarak kabul edilip okutulmuştur.

Muhtıra-i Belâgat (İstanbul 1308) adlı eseri günümüz harfleriyle yeniden yayımlanmıştır (İstanbul 2012).  Hazîne-i Kıraat, İnci Kitap gibi bazı kıraat (okuma) kitapları da tekrar yayımlanmıştır. Buna rağmen daha çok Mükemmel Osmanlı Lugatı ile (Fâik Reşad'la beraber, İstanbul 1319, 1320) tanınmıştır. Eser yeni bir tertiple ve Arap harfleriyle dizini de verilerek tekrar basılmıştır (Ankara 2002). Yazarın Fransızca'dan Türkçe'ye, Türkçe'den Fransızca'ya, Lugat-ı Nazîmâ (İstanbul 1901), Lugat-ı Tefeyyüz (İstanbul 1910) ve Mini Mini Lugat-ı Tefeyyüz (İstanbul 1912) adlarıyla hazırladığı başka sözlük çalışmaları da bulunmaktadır (eserlerinin geniş bir dökümü La Clef du Français, İstanbul 1934, s. 106-109'da bulunmaktadır).