Genel kabule göre Türk asıllı kabul edilen ve asıl adı Mahmud olan Zemahşerî'nin künyesi Ebü'l-Kasım ve lakabı da Mekke'de uzun süre kaldığı için Cârullah'tır. Horasan'ın kuzeyindeki Hârizm şehrine bağlı Zemahşer köyünde doğdu. Babası Ömer, Zemahşer'de imam idi. Selçuklu nazırlarından Müeyyidülmülk'ün (ö. 1100) hakkında net bilgi bulunmayan bir sebepten dolayı onu hapse attığı ve babasının hapishanede öldüğü belirtilmektedir.

Zemahşerî, Hârizm'de temel eğitimini aldıktan sonra tahsilini ilerletmek için Hârizm yakınlarındaki Cürcâniye'ye, oradan da Buhara'ya gitti. Dönemin ilim adamlarının derslerine katılarak eğitimini ilerletti. Uzun yıllar Mekke'de yaşadı. Türkçe ve Farsça'nın yanında üstün hakimiyet sağladığı Arapça'sı ile "Şeyhü'l-Arabiyye" olarak tanındı.

Zemahşerî, iyi bir münşî olan Selçuklu Veziri Mücîrüddevle Hüseyin Erdistânî'yi (ö. 1097) öven şiirler yazdı ve Şerhu Ebyâti's-Sîbeveyhi ile el-Ünmûzec adlı iki kitabını ona ithaf etti. Daha sonra Horasan'dan Selçuklular'ın başşehri İsfahan'a göç etti. Buradan da Hârizm'e döndü ve Hârizm Sultanı Muhammed'in (1097-1127) hizmetine girdi.

O sıralarda Hârizm bir ilim ve kültür merkeziydi. Böyle bir ortamda olgunlaşan Zemahşerî, Nizâmülmülk'e gönderdiği bir kasidesinde, devrinin izzetinden bahsederken âlimlere ve ediplere ilgisizliğinden de bahsetmiş, ancak bu şikâyeti fazla ilgi görmemiştir. 1118'de kırk beş yaşında iken geçirdiği ağır bir hastalıktan sonra bir daha hiçbir sultanın hizmetine girmeyeceğine dair bir karar vermiş, iyileştikten sonra birçok kere Bağdat'a giderek Nizamiye Medresesi'nin ilmî zenginliğinden yararlanmıştır.

Zemahşerî fıkıh ilminde Ebû Hanîfe'nin takipçisi olmasına rağmen hadise özel bir önem verdi. Hârizm'de hadis ilmini ihya eden, insanları hadis dinlemeye ve okumaya teşvik eden, Irak'tan hadis kitaplarını buraya getiren ilk kişi Zemahşerî'dir. Ona göre Arapça, Allah'ın bütün dillere tercih ettiği en mükemmel dildir. Mu'tezile mezhebinin hâkim olduğu bir ortamda yetişen Zemahşerî aklî ilimlere de önem veren mantık, cedel ve belagat konularına vâkıf bir âlimdi. Zemahşerî, Hârizm'in (kasabât Hârizm) merkezi Cürcâniye'de arefe gecesinde yani 12 Haziran 1144 Pazartesi günü vefat etmiş ve orada defnedilmiştir.

Zemahşerî'nin Cürcâniye, Buhara, Bağdat ve diğer şehirlerde ne kadar kaldığı bilinmemekle birlikte buralarda faydalandığı ilim insanları ve ders verdiği öğrenciler için yeterince zaman geçirdiği kabul edilir. Ders aldığı hocaları arasında lügat, nahiv ve kelam öğrendiği Ebû Mudar İsfahânî (ö. 1114), edebiyat dersleri aldığı Ebü'l-Hasan Nîsâbûrî (ö. 1100); hadis ve fıkıh dersleri okuduğu Ebû Abdullah Dâmeganî (ö. 1085); bir diğer nahiv ve edebiyat hocası Ebü's-Saâdât İbnü'ş-Şecerî (ö. 1148); dil dersleri gördüğü Ebû Mansûr Cevâlîkî (ö. 1145) ve nahiv ve usûl-i fıkıh hocası Ebû Bekir Yâbirî (ö. 1121) yer almaktadır.

Dil, edebiyat ve tefsir alanlarında büyük bir otorite olarak kabul edilen Zemahşerî, seyahat ettiği yerlerde çok sayıda öğrencinin de yetişmesine katkıda bulundu. Öğrencileri arasında Muvaffak b. Ahmed Hârizmî (ö. 1172), İbn Sa'dûn Kurtubî (ö. 1172), Ebû Tâhir Silefî (ö. 1180), Ebü'l-Feth Nâsır (ö. 1213), Reşîdüddin Muhammed Belhî (ö. 573/1177) ve kadın öğrencileri arasında da Zeyneb bintü'ş-Şâ'rî (ö. 1218) yer almaktadır (bk. Lane, 2006: 244-266).

Zemahşerî hayatı boyunca tefsir, sarf, nahiv, şiir, fıkıh ve kelam alanında altmışın üzerinde eser yazmıştır. Başlıca eserleri şunlardır: 1. el-Keşşâf an Hakaikı Gavâmizi't-Tenzîl ve Uyûni'l-Ekavîl fî Vücûhi't-Te'vîl: Zemahşerî'nin tefsir alanında yazdığı en önemli eseridir. Bu kitaba birçok şerh yazıldı. İlk defa W.N. Lees ve M.K. Hosain ve A. Al-Hai tarafından basılmıştır (Calcutta 1856). Türkiye Yazma Eserler Kurumu tarafından bir grup akademisyenin katkısıyla Arapça metniyle Türkçe'ye çevrilip altı cilt olarak neşredilmiştir (İstanbul 2016-2020). 2. el-Minhâc fî Usûli'd-Dîn: Kelama dair ve Ebü'l-Hüseyin Basrî'nin ekolünden etkilendiğini gösteren mevcut tek eseridir. el-Minhâc kitabı ve İngilizce çevirisi ilk olarak Stuttgart'ta (1997) ve ardından S. Schmidtke'nin çevirisiyle Beyrut'ta (2007) yayımlandı. 3. el-Mufassal: Arapça gramer eseridir. İskenderiye 1291 (nşr. Hamza Fethullah), Delhi'de de 1891 ve 1903 yıllarında tıpkı basımı yapılmıştır. 4. Esâsü'l-Belâğa: Döneminin en değerli sözlüklerinden biri olarak kabul edilir. Kitap ilk olarak 1882 yılında Mısır'da iki cilt halinde yayımlandı. Son olarak Muhammed Bâsıl Uyûnü's-Sûd tarafında neşredildi (Beyrut 1419/1998). 5. Nüketü'l-İ'râb fî Garîbi'l-İ'râb: Az kullanılması sebebiyle mânası sözlüklere başvurulmadan bilinemeyen garip kelimelerle ilgili eseridir. 6. el-Ünmûzec fi'n-Nahv: Arapça gramer eseridir.

Diğer çalışmaları arasında, Dîvânü'ş-Şi'r/Dîvânü'l-Edeb; A'cebü'l-Aceb fî Şerhi Lâmiyyeti'l-Arab; el-Müstaksâ fî Emsâli'l-Arab; el-Kelimü'n-Nevâbiğ; ed-Dürrü'd-Dâir el-Müntehab fî Kinâyâti Ve'stiârâti ve Teşbîhâti'l-Arab; el-Kustâsü'l-Müstakîm fi'l-Arûz; el-Mufassal fî Sınâati'l-İ'râb; el-Müfred ve'l-Müellef; Mes'ele (Risâle) fî Kelimeti'ş-Şehâde; el-Muhâcât (el-Muhâccât) bi'l-Mesâili'n-Nahviyye (el-Ehâci'n-Nahviyye); Mukaddimetü'l-Edeb; el-Fâik fî Garîbi'l-Hadîs; el-Muhtasar min Kitâbi'l-Muvâfaka Beyne Ehli'l-Beyt ve's-Sahâbe ve Ruûsü'l-Mesâil adlı eserleri sayılabilir.