Hayatı hakkında çok az bilgi vardır. Mevcut bilgiler de efsanevi içerikler taşımaktadır. Kendisi eserlerinde Ebû Mûsâ künyesini kullanmış; aslen Yemenli Ezd kabilesinden olduğundan "Ezdî", Türkler'in yoğun olduğu Horasan'ın Tûs şehrinde doğduğundan "Tûsî", Kûfe'de yetiştiğinden "Kûfî" ve İbnü'n-Nedîm'e göre zâhit olduğundan da "Sûfî" nispeleri verilmiştir.

Horasan'a bağlı Tûs şehrinde doğdu. Babası Hayyân, Emevîler tarafından idam edilince akrabalarının yanında büyüyen Câbir 749 yılında Abbâsîler, Emevîler'e karşı zafer kazanıp hilafeti elde edince babasının daha önce yaşadığı Kûfe'ye geri döndü. Burada Ca'fer Sâdık ile yakın dost oldu ve Abbâsîler'e yakınlık kurarak halifenin sarayında önemli bir konum edindi. Hârûnürreşîd halife olduktan sonra vezirlik başta olmak üzere devletin önemli kademelerinde görev alan Bermekîler'le yakınlık kurdu. Hârûnürreşîd'in 803 yılında Bermekî ailesinin elinden gücü alma kararı üzerine, zarar göreceğinden korkarak kaçtı ve 815 yılında doğduğu Tûs şehrinde vefat etti.

İlk eğitimini Kûfe'de aktarlık yapan ve ilaçlar hazırlayan babasından aldı. Onun vefatından sonra Yemen'de Harbî Himyerî'den matematik dersleri aldı. Eserlerinde hocası olarak özellikle iki ismi zikreder. Bunlardan birincisi, Kûfe'ye döndükten sonra hocası ve yakın dostu olan Ca'fer Sâdık, ikincisi ise İslam tarihinde ilk çeviri hareketini başlatıp kimyaya dair eser de kaleme alan Hâlid b. Yezîd b. Muâviye'dir. İlmî hayatına yön veren Ca'fer Sâdık'tan dil, din ve kimya ilimlerini öğrendi. Hâlid b. Yezîd'in eserlerinden simya ve kimya ilmine dair bilgiler edindi. Eserlerinde ismini zikrettiği diğer iki hocasının biri Suriye'de ziyaret edip bazı bilgiler aldığı Râhib, diğeri ise Himâr Mantıkî'dir. Irak ve Suriye'nin yanı sıra Mısır ve Hindistan'a da seyahatler yapıp yeni diller ve bilgiler öğrendi. Ayrıca Mısır, Hint, Fars ve özellikle Yunan medeniyetlerinden Arapça'ya tercüme edilen eserleri inceleyerek başta kimya olmak üzere felsefe, tıp ve astronomi gibi birçok alanda kendisini yetiştirdi ve bu alanlarda yüzlerce kitap-risale telif etti.

İbnü'n-Nedîm, Câbir'in eserlerinin isimlerini içeren biri büyük biri küçük iki katalog bıraktığını, büyüğünün kimya dahil diğer ilimlere dair eserlerinin isimlerini, küçüğünün ise sadece kimyaya dair eserlerinin isimlerini içerdiğini zikreder. O, bu kataloglarda felsefe, tıp, matematik, astronomi ve kimya gibi müspet ilimlere dair yaklaşık 3000 eser ile dinî ilimlere dair birçok eser kaleme aldığını ifade etmiştir. Ancak İbnü'n-Nedîm, el-Fihrist adlı eserinde bunlardan sadece bizzat gördükleri ile güvendiği kişilerin gördükleri eserlerinin isimlerini zikreder.

Eserlerinin çoğu günümüze ulaşmayan Câbir'in birçok telifi XII. yüzyıldan itibaren önce Latince'ye, Latince'den de zamanla diğer Avrupa dillerine çevrilmiştir. XIX. yüzyıla kadar bu eserler XVII. yüzyıldan itibaren Batı'da gelişecek olan modern kimya biliminin temellerini oluşturmuştur. Buna dayanan Fransız kimyager M. Berthelot'un ifadesiyle Aristo'nun mantıktaki yeri ne ise, Câbir b. Hayyân'ın kimya ilmindeki yeri de odur ve "kimyanın atası" olarak anılmaya layıktır. Ancak Latince eserlerin Arapça asılları zamanla kaybolduğundan XIX. yüzyılın sonlarından itibaren bu eserlerin Câbir'e ait olup olmadıkları tartışma konusu olmuştur.

Çok yönlü bir âlim olduğundan tümevarım ve tümdengelim yöntemleriyle gerçekleştirdiği teorik araştırmalarıyla birçok bilim alanına katkı sağlamıştır. Ancak en fazla kimya alanında ilkler gerçekleştirmiştir. Hocası Hâlid b. Yezîd'in, simya ilminin kendisini kurtaramadığı gizemlerden ve tılsımlarından kimya ilmini ayrıştırmış, Antik Yunan başta olmak üzere diğer medeniyetlerden öğrendiği teorik kimya bilgilerini Kûfe'de kurduğu laboratuvarda deneylerle test etmiş ve terkiplerle yöntemlerini kitaplarında açıkça ortaya koymaya çalışmıştır.

Kimya ilminde günümüzde de geçerli damıtma, kristalleştirme, süblimleştirme ve saflaştırma gibi teknikleri ilk defa kullanarak birçok yeni yöntemi geliştiren Câbir, eserleri üzerinden çalışmaları, buluşları ve yöntemleri araştırmak isteyenler için ilk önce kitaplarının tamamını toplamalarını ve sonra hepsini bir arada inceleyerek sonuca varmalarını şart koşar. Zira belli bir konudaki bir bilgiyi tek bir eserde vermektense birçok esere yayma yöntemini seçmiştir. Bazan bir eserinde kısaca verdiği bilgiyi diğerinde açıklayarak verir. Bazan da aynı bilgiyi birçok eserinde farklı şekilde sunarak vermiştir. Bazan açık ifadeler kullanırken, bazan da semboller kullanmayı tercih eder. Bu, kendisinin ifadesiyle kitaplarının her birinin geriye kalan bütün kitaplarının tamamlayıcısı ve açıklayıcısı olduğu anlamına gelir. Onun bu yöntemi eserlerinin bir kısmının incelenmesiyle varılacak sonucun eksik olacağı anlamına gelmektedir.

Câbir, ayrıca her bir kitabının üç defa arka arkaya okunması gerektiğini söyler. Ona göre birinci okuma metnin lafızlarının doğruluğunu ve o lafızların anlamlarını tespit etmek, ikinci okuma bu metni yakın anlamlarından ziyade örtük anlamlara ulaşmak üzere incelemek, üçüncü okuma da benzer ve farklı anlamların karşılaştırılarak sınıflandırılıp bölümlendirilmesi için gerçekleştirilmelidir.

İlmi, öğrenciye aktaran öğretmenin değerine inanan Câbir, öğrenci ve öğretmenin nasıl olması gerektiğine dair ilkeler belirler. Öğrenci öğretmenin bütün sözlerine karşı esnek olmalı ve hiçbir hususa itiraz etmeden her yönüyle kabul etmelidir. Zira öğretmen bilgi hazinesini sadece öğrenci ona minnettar olup sükunetle dinlediği zaman açığa vurur. İlme karşı çıkan doğruya karşı çıkar ve yanlışa düşer. Öğrenci, öğretmene bu düzeyde itaat göstermezse öğretmen ona ilminin özünden ziyade kabuklarını verir. Öğrencinin öğretmene itaat etmesindeki maksat, mevcut çalışma hayatındaki meselelerde değil, ilmi kabul etmek, ders çalışmak, öğretmenin kanıtını dinlemek, onu ezberlemek, tembelliği ve oyalanmayı bırakmaktır. Ayrıca öğrenci, öğretmenine karşı sessiz olmalı ve sırrını saklamalıdır. Çünkü öğrenci, kendini iyileştirmesi için öğretmenin kullandığı boş bir arazi gibidir. Toprak iyiyse tohum orada karar kılar, büyür, olgunlaşır ve tohumundan katbekat fazlasını geri verir. Toprak çürük ve kötü ise tohum içinde ölür ve az faydası olan dışında bir ürün vermez. Yine öğrencinin görevi, hocasın dersine devam etmek ve öğrendikleri konusunda düşünmektir. Çünkü öğretmen öğrencisine ilmin usulünü öğretmekten başka bir şey yapamaz. Bundan dolayı öğrencinin bundan sonra öğrendikleri üzerine alıştırma yapıp kendini yetiştirmesi gerekir.

Câbir, öğretmenin öncelikle öğrencinin melekesini tartması gerektiğini söyler. Melekeden kastının ise öğrencinin doğal yeteneği ve yatkınlığı ile ilmi alma derecesi, öğretilene kulak vermesi, öğrendiklerini ezberleme ve hatırlama gücü olduğunu ifade eder. Öğretmen, öğrencisini temiz ve verimli bir arazi gibi bulduğunda, onun kabul etme derecesine, yaşı ve tecrübesine uygun şekilde ilimlerin başlangıcıyla sulamaya başlar. Böylece ilmi aşama aşama öğretmeye devam eder ve öğrettiklerinden onu imtihan ederek fazlasını kaldırabildiğince verip bilgi miktarını arttırır. Unuttuğunu ve ilmi aklında tutmada sorun yaşadığını gördüğünde verdiğinin miktarını düşürür. Eğer öğrenci bu ilim mertebesine, ilmin meselelerine ve inceliklerine ulaşırsa öğretmenin görevi ona öğretmeye devam etmek olmalıdır. Öğrencisini ihmal eden öğretmen haindir ve haine güvenilmez. Güvenilmeyenden de ilim alınmaz. Zira öğretmen dürüst olur.