Tataristan'da Kazan'ın Yabıncı köyünde doğdu. Dedesi Molla Sübhan'ın anlattığı tarihî olayları dinleyerek yetişti. Babası Molla Bahâeddin, imamlık ve müderrislik yapmıştır.

Tahsiline babasının medresesinde başlamış, özellikle tarih ve biyografi kitaplarına ilgi duymuştur. 1838'de dinî ilimlerde derinleşmek amacıyla Mâverâünnehir'e doğru yola çıkmış, Buhara'ya vardığında Îşân Türkmânî Medresesi'ne yerleşmiştir. 1844'te Semerkant'a gidip Ebû Saîd Semerkandî adındaki âlim bir zatın sohbet halkasına girmiş, onun etkisiyle tarihe merakı derinleşmiştir. Semerkant'ta iki yıla yakın kaldıktan sonra Buhara'ya gitmiş, buranın ünlü eğitim kurumu olan Mîr-i Arab Medresesi'ne yerleşmiş, burada bir yıl kadar imamlık da yapmış, vaktinin çoğunu okumaya ve araştırmaya ayırmıştır.

Mercanî'nin Türkistan'daki temasları ondaki fikrî dönüşümde etkili olmuştur. Orada bulunduğu sırada Kursavî'nin eserlerini elde edip okumaya başlamış, kanaatleri değişmiştir.

Buhara'da on bir yıl kadar tahsil gördükten sonra vatanına dönmüş, Kazan'da ulema huzurunda bir sınava tâbi tutularak gösterdiği başarı üzerine imam, hatip ve müderris tayin edilmiştir (1850). 1870'te hükümet müslüman okullarına Rusça dersi koyma kararı aldığında ulemanın çoğu Rusça öğrenmenin caiz olmadığını beyan ederken Mercânî aksi yönde kanaat belirtmiş, Tatar toplumunu yönlendirecek kadroların Rusça'yı da bilmeleri gerektiğini ifade etmiştir.

1871'de varlıklı kimseler onun için bir medrese (Mercânî Medresesi) ve talebe yurdu inşa ettirmişlerdir. Mercânî Medresesi veya Medrese-yi Âliye adıyla tanınan bu kurum 1881'den itibaren öğrenci kabul etmeye başlamış ve Kazan'ın en iyi medresesi olarak ünlenmiştir. Vefatına kadar burada ders okutmuş, bundan başka 1876'da Kazan'da hükümet tarafından açılan Tatar Öğretmen Okulu'nda da muallimlik yapmaya başlamış, aynı yıl üniversitenin Arkeoloji Cemiyeti'ne üye olmuş, şarkiyatçılar ve yerel otoritelerle dostluklar kurmuştur.

1880'de hac için yola çıkarak İstanbul'da kaldığı birkaç gün içinde Buharalı Şeyh Süleyman Efendi, Şeyh Muhammed Edirnevî, Şeyhülislam Ahmed Esad Efendi, Adliye Nazırı Ahmed Cevdet Paşa, Hariciye Nazırı Âsım Paşa ve Mekke Şerifi Seyyid Avn gibi zatlarla görüşmüştür. 1885'te muallimlik görevinden ayrılmış, hayatının bundan sonraki kısmında telif faaliyetleriyle meşgul olmuştur. 1889'da Kazan'da vefat etmiştir.

Mercânî'nin fikirlerine bakıldığında, onun zihnini en çok meşgul eden meselelerden birinin medreselerin ıslahı olduğu görülür. O, İslam dünyasındaki ilmî geriliği aşmanın ve toplumu değiştirmenin en önemli vasıtalarından birinin burada olduğuna inanmış, Buhara medreselerindeki eğitim sisteminin noksanlarını ve ders usullerini eleştirerek medreselerde şerh ve haşiyelerle, mantık ve kelam münazaralarıyla vakit geçirildiğini, Kur'an, hadis ve Arap edebiyatı gibi derslerin okutulmadığını ileri sürmüştür. Mukaddimetü Vefiyetü'l-Eslâf adlı kitabında, Buhara halkının ve hükümetin maariften uzak, idarelerinin bozuk, medresedeki ders usullerinin tertipsiz, tefsir ve hadis öğretiminin yetersiz ve derslerde okutulan fıkıh kitaplarının zayıf olduğunu; edebiyât-ı Arabiye, hikmet, coğrafya, tarih ve ahvâl-i âlem gibi ilimlerin okutulmadığını ifade etmiştir.

Fıkıh tetkikinde her hükmü şer'î delillere tatbik edip dayanaksız sözlerden uzak durmaya çalışmıştır. Hüküm çıkarma konusunda Hanefî mezhebinin usul ve kaidelerini kullansa da mezhebinde taassup göstermemiştir. Ayrıca içtihat kapısının kapanmadığını düşünmüş -yeterli donanıma sahip olmak şartıyla- yeni yorumlar getirilmesini gerekli görmüştür.

Yazılarında Selef âlimlerinin akidevî saflığına vurgu yapmış olsa da tasavvufu da İslam'ın önemli bir boyutu olarak görmüş, tasavvufun ruh terbiyesi için faydalı ve Selef'in (ashap ve tâbiîn) yoluna uygun olduğunu yazmıştır. Ancak onun tasavvufa olan ilgisinin, daha ziyade şahsî dostluklar bağlamında ve entelektüel düzeyde kaldığı anlaşılmaktadır. Tarikata bağlanmak isteyen bir talebesi, kendisine bir mürşîd-i kâmil tavsiye etmesini istediğinde, en iyi mürşidin Kur'an olduğunu söylemiştir.

Eserlerinin önemli bir kısmı tarih konusundadır. İslam meşhurlarının ve Tatar ulemasının hayat hikâyelerini anlattığı Vefiyetü'l-Eslâf ve Tahiyetü'l-Ahlâf adlı kitabı altı cilt olup el yazması halinde kalmıştır. Eserin mukaddimesi tarih ve diğer dinî ve içtimaî meseleler hakkındadır. Tatar Türkçesi ile kaleme aldığı Müstefâdü'l-Ahbâr fî Ahvâli Kazân ve Bulgar kitabının ilk kısmında (Kazan 1885) İdil Bulgarları ile Hazar, Burtas, Başkırt ve Kıpçak kavimlerini anlatmış, Altın Orda Devleti, Kazan, Astarhan, Kırım, Sibir hanlıkları ile Nogay Ordası ve Kazak hanlıklarının tarihlerini ele almıştır. Vefatından sonra yayımlanan ikinci kısmında ise (Kazan 1900) Tatar toplumsal kurumlarının (cami, medrese, müftülük, belediye) XVIII. ve XIX. yüzyıllardaki durumunu, Tatar tüccarını ve ulemanın biyografilerini yazmıştır.

Muhtasarü'n-Nücûmü'z-Zâhire fî Ahvâli Mısr ve'l-Kahire adlı kitabı, tarihçi Cemâleddin Ebü'l-Humâs Yûsuf Atabekî'nin bu addaki eserinin kısaltılmış hali olup Mısır'ın Araplar tarafından alınmasından 1459 yılına kadar olan olayları ve bu dönemde yaşayan tanınmış kimselerin biyografilerini içermektedir. Gurfetü'l-Havâkîn li-Urfeti'l-Havâkîn (Kazan 1864) risalesi, X. ve XII. yüzyıllar arasındaki Türkistan tarihini incelemektedir. Bulgar ve Kazan hanlarının tarihine dair Gılâletü'z-Zamân fî Târîhi Bulgar ve Kazân (Kazan 1878) adlı risalesini Hüsâmeddin Bulgarî'nin Tevârîh-i Bulgariye adlı eserini tenkit maksadıyla yazmış, bu eserin XI. yüzyılda değil XIX. yüzyılda yazıldığını, efsanevî ve yanlış bilgilerle dolu olduğunu ileri sürmüştür. 1880'deki hac yolculuğu sırasında tuttuğu gezi notlarından bir kısmı (Mekke ve Medine izlenimleri) Kitâb Türkiye fî Menâsiki'l-Hac adıyla Kazan Tatarcası ile yayımlanmıştır. İstanbul, İzmir ve Mısır izlenimleri ise vefatından sonra, Rihletü'l-Mercânî (Kazan 1898) adıyla Rızâeddin b. Fahreddin tarafından neşredilmiştir.

Nâzûretü'l-Hak (Kazan 1870) adlı eserinde Rusya'nın kuzeyindeki bölgelerde kısa gecelerde yatsı namazı kılınmalı mı sorusuna cevap vermiş, yatsı namazının terkedilemeyeceğini savunmuştur. Bu esere yapılan tenkitlere cevap olmak üzere, Hakku'l-Ma'rife (Kazan 1880) adlı bir risale kaleme almıştır. el-Fevâ'idü'l-Mühimme (Kazan 1878) adlı risalesi Rusya'da Kur'an basımı, tarihi ve Kur'an baskılarındaki yanlışların düzeltilmesi hakkındadır. el-Hikmetü'l-Bâligatü'l-Ceniye fî Şerhi'l-Aka'idi'l-Hanefiye (Kazan 1889) adlı kitabı, Sa'deddin Teftâzânî'nin eserine yazılmış bir şerh olup akait konusundaki aklî ve naklî delilleri içermektedir. A'lâmü Ebnâi'd-Dehr bi-Ahvâli Ehli Mâverâinnehr adlı eserinde Buhara ulemasını ve medreselerdeki ders tertiplerini eleştirmiş, Tenbîhü Ebnâi'l-Asr alâ Tenzihi Enbâi Ebi'n-Nasr risalesinde ise Abdünnasîr Kursavî'nin Buhara ulemasıyla olan ihtilafını ele almıştır.

Mercânî, farklı dönemlerde farklı şekillerde algılanmıştır: Ceditçi kuşak Mercânî'yi Rusya müslümanlarında ortaya çıkan dinî teceddüt hareketinin en büyük önderi olarak görmüş, hatta Tatar tarihçisi Hâdi Atlasî onu "Müslümanlığın Luther'i" olarak tanımlamıştır. Mercânî sahabe ve tâbiîn zamanındaki akideyi esas almış, kelamcıların ve Mûtezile zümresinin, İslam akidelerinde karışıklık yarattıklarını, düşünmüştür. Bunun için, bir taraftan hakiki Selef itikadını yeniden keşfetmeye çalışırken, diğer taraftan da kelamcılara karşı reddiyeler yazmıştır. Dönemin ulemasından bu fikirlere itiraz edenler olmuş, bazı eserleri hakkında reddiyeler yazılmıştır.

Sovyet döneminin başlarında "kendi zamanına göre ileri fikirleri olan fakat artık fikirleri eskimiş bir din adamı" olarak anılan Mercânî, ilerleyen yıllarda tarih kitaplarından çıkarılmıştır. 1960'ların sonundan itibaren kendisinden söz edilmeye başlanmışsa da bu defa daha ziyade tarihçi yönü vurgulanmıştır, Mercânî'nin modern Tatar tarihçiliğinin temellerini attığında şüphe yoktur, ancak eserlerine bir bütün olarak bakıldığında tarihten ziyade ilahiyat konuları üzerinde yoğunlaştığı görülür. Birçokları tarafından Tatar millî kimliğinin kurucusu olarak görülse de onun temel endişesi din olmuştur. İlim dili olarak sadece Arapça'yı görmüş, ana dilinin ilmî ıstılahları karşılamada yetersiz olduğunu düşünmüştür.

Buhara'daki eğitim sistemini tenkit edip ıslah yollarını göstermiş olsa da düşündüğü reformları kendi medresesinde o döneme hâkim olan mevcut anlayışı kıramamış, mantık ve kelam dersleri burada da öğretimin temelini oluşturmuştur. Talebelerinin ilgilerini yeni konulara çekebilmek için Ahmed Midhat Efendi gibi yazarların eserlerinden parçalar okumuş, fakat talebeler bunu bir zaman kaybı olarak görmüş, bunun yerine bir mantık meselesini tartışmayı yeğlemişlerdir. Bu yüzden bazı hedeflerinden taviz vermek zorunda kalmış, talebeleri medresesinde tutabilmek için çok tenkit ettiği Buhara usulüne dönerek mantık ve kelam derslerine ağırlık vermiştir. Kelam öğretimine karşı olmasına rağmen, kendisi de kelam konularıyla ilgilenmekten geri kalmamıştır.

Bununla birlikte eski eğitim sistemine getirdiği eleştiriler tesirli olmuş, medreselerde usûl-i cedidin gerekliliği fikrini uyandırmıştır. Genç kuşak ulema, Buhara usulü eğitimin yetersizliğine inanıp medreselerin ıslahı için yeni usulün (usûl-i cedîde) gerektiği düşüncesine varmış, mektep ve medreselerin ıslah edilmesi fikrinin öncüleri olmuşlardır. Kazan'da Âlimcan Barudî, Ufa'da Hayrullah Osmânî, Ahmed Hâdi Maksudî ve Ahmed Bay gibi kimseler mektep ve medreselerde usûl-i cedîdenin kurucuları ve yayıcıları olmuşlardır. Mercânî kendisinden sonra gelen nesil için bir model oluşturması bakımından da önemlidir. Onun gayretleri sayesinde yaygınlaşan dinî ıslahatçı akım, Âlimcan Barudî, Rızâeddin b. Fahreddin, Abdullah Bubî, Mûsâ Cârullah ve Ziyâ Kemâlî gibi reformcu ulema ile varlığını sürdürmüştür.