Arnavutluk'un Yanya vilayeti Fraşir köyünde dünyaya geldi. Kalkandelenli Mahmud Efendi'den Arapça ve Farsça dersleri aldı. Yanya'da Rum Lisesi'nde Rumca, Eski Yunanca, Fransızca, İtalyanca öğrenip coğrafya, tarih, hikmet (felsefe), matematik, astronomi ve kimya dersleri alarak 1868 yılında mezun oldu. Bir süre Vilayet Mektûbî Kalemi'nde çalıştı. 1872'de İstanbul'a gitti ve Matbuat Kalemi'nde görev yaptı. Tercüme faaliyetlerinde bulunarak Saint Quen'den Târîh-i Mücmel-i Fransa'yı tercüme etti. Türk edebiyatının ilk telif romanı olan Taaşşuk-ı Talat ve Fitnat'ı kaleme aldı (1875). Yine bu yıllarda gazetecilik faaliyetlerinde de bulunarak Hadîka gazetesinde yazılar yazdı. Hadîka'nın 1873 yılında kapatılması üzerine Ebüzziya Tevfik'in çıkardığı Sirâc gazetesinde yazar ve çevirmen olarak çalıştı. Bu gazete de kapatılınca çeviri faaliyetlerine ağırlık verdi. 1873 yılında İhtiyar Onbaşı ve Galatée adlı eserleri tercüme ederek yayımladı ve sonrasında telif tiyatro denemelerine girişti.

Şemseddin Sâmi, Trablusgarp vilayet gazetesinde görevlendirilmek üzere 1874 yılında Trablusgarp'a tayin edildi. Burada bulunduğu sırada Türkçe-Arapça çıkmakta olan Trablusgarb gazetesinin başyazarlığını üstlendi. 1875 yılında İstanbul'a döndükten sonra da hem basın yayın hem de diğer faaliyetlerle yoğun şekilde meşgul olmayı sürdürdü. Bu sıralarda sürgünde olan Ebüzziya Tevfik adına 1876 yılında Muharrir dergisini çıkarmaya başladı. Bununla birlikte 9 Mart 1876 tarihinde basın yayın tarihimizin önemli gazetelerinden biri olan Sabah'ı yayımlamaya başladı.

1877 yılında Cezâyir-i Bahr-i Sefîd valiliğine tayin edilen Sava Paşa'nın mühürdarı olarak onunla Rodos'a gitti. Bir süre sonra tekrar İstanbul'a dönerek Tercümân-ı Şark gazetesinin başyazarı oldu ve "Şundan Bundan" başlığı altında fıkralar yazdı.

Rumeli ve Balkan sorunları üzerine siyasal konularda yazılar kaleme aldı. Abdül Bey ve Sava Efendi ile Cem'iyet-i İlmiye-yi Arnavûdiye'nin kurucuları arasında yer aldı. Latin harfleri esasında "İstanbul Alfabesi" adıyla Arnavutça'nın alfabesini düzenleyip gramerini hazırladı.

Tercümân-ı Şark gazetesinin 1878 yılında kapanmasıyla gazetecilik serüveni sona eren Şemseddin Sâmi, Mihran Efendi ile birlikte halka eğitici ve öğretici bilgiler vermek amacıyla "Cep Kütüphanesi" serisinde Gök, Yer, İnsan, Medeniyyet-i İslâmiye, Kadınlar ve Esâtîr isimli küçük kitaplar yayımladı.

1880 yılında Mâbeyn-i Hümâyun'da kurulan Teftîş-i Askerî Komisyonu kâtipliği ile görevlendirilen Şemseddin Sâmi, çalışmalarını gerçekleştirmek için uygun bir ortama da sahip oldu. Aile (1880, üç sayı) ve Hafta (1881-1882) dergilerini çıkardı. Victor Hugo'nun Sefiller'ini Türkçe'ye çevirdi (Bu çeviri Hasan Bedrettin Bey tarafından tamamlanıp basılmıştır, 1934).

Şemseddin Sâmi eserlerinde pek çok konuyu ele alıp işlemiştir. Taaşşuk-ı Talat ve Fitnat romanında tipik bir Tanzimat aydını olarak devrin yenileşme arayışlarına paralel şekilde kadın erkek ilişkilerini, görücü usulü ile evlilikleri ve kız çocuklarının eğitimleri konusunu ele aldı. Tiyatro eserlerinde ise daha farklı konulara yöneldi.

Dil konusunda yazdığı makaleler ve sözlüklerle Türkçe'nin gelişmesine katkıda bulunmuş olan Şemseddin Sâmi, Hafta mecmuasında 3 Kasım 1881 tarihinde yayımladığı "Lisân-ı Türkî (Osmânî)" başlıklı meşhur makalesinde dil şuuru konusuna değinmiştir. Türk milletinin konuştuğu dilin "Osmanlıca" tabiri ile adlandırılamayacağını, Osmanlıca ifadesinin devleti kuran aileye ve dolayısıyla kısa bir zamana ve dar bir coğrafyaya işaret ettiğini, oysa asıl doğru şekli olan "Türkçe"nin binlerce yıl öncesinde mevcut ve geniş bir coğrafyaya yayılmış olan kadim ve büyük bir milletin konuştuğu dil olduğunu söyleyerek Osmanlıca tabiri yerine Türkçe, "lisân-ı Türkî" adının kullanımını önerir. Onun bu tavrını, Türk tarihine en büyük hizmeti olduğunda kuşku olmayan Kamûs-ı Türkî'sinde de görmek mümkündür (1900). Türkçe üzerinde bu derece ehemmiyetle duran Şemseddin Sâmi'nin asıl çıkışı ve teklifi, tarih içerisinde farklı dillerin etkisi altında kalan Türkçe'nin sadeleştirilmesi hususundadır. Bu konuda oldukça radikal bir tavra sahiptir. Türkçe'ye yabancı dillerden, bilhassa Arapça ve Farsça'dan giren kelimeler yerine eski Türkçe'den kelimeler alınarak bunların "uyandırılmasını" ve Doğu Türkçesi'nden kelimeler kullanılmasını önerir. Bu tavrı edebiyatla ilgili görüşlerinde de mevcuttur Devrin hâkim eğilimi ve yaklaşımına sahip olan Şemseddin Sâmi, divan edebiyatına cephe alır ve kurumsallaşma evresinde olan yeni edebiyata tam destek verir. Özellikle hayatının sonlarına doğru, Mehmet Emin'in kaleme aldığı Türkçe Şiirler kitabıyla belirginleşen millî edebiyatı, coşku ile alkışlar, bunun Türkler'in hakiki edebiyatı olduğunu söyler.

1882 yılında yayımladığı ilk sözlüğü, Kamûs-ı Fransevî-Fransızcadan Türkçeye Lugat (Dictionnaire Français-Turc) isimli çalışmasıdır. Şemseddin Sâmi'nin, devrin dünya dili olan Fransızca'yı öğretmeye, eksikliği şiddetle hissedilen bir ihtiyacı karşılamaya yönelik hazırladığı bu sözlük çok rağbet görmüştür. 1885'te Kamûs-ı Fransevî-Türkçeden Fransızcaya Lugat (Dictionnaire Français-Turc) ve 1886 yılında Küçük Kamûs-ı Fransevî-Fransızcadan Türkçeye Lugat (Petit Dictiannaire Français-Turc) adlı iki ayrı Fransızca sözlük daha yayımladı. Ayrıca Kamûs-ı Arabî adlı bir sözlük de kaleme aldı. Önceki gibi Arapça öğretimine yönelik olan bu sözlüğün tertibi de Arapça'dan Türkçe'yedir. Ancak Şemseddin Sâmi, 1895 yılında defter defter neşrine giriştiği bu sözlüğünü "cenb" maddesine kadar yayımlayabildi. Yine en önemli çalışmalarından bir olan Kamûsü'l-A'lâm (1899), tarih, coğrafya ve meşhur kişilere ilişkin altı ciltten oluşan büyük bir ansiklopedidir. Şemseddin Sâmi, "tarih ve coğrafya fenlerinin bir mahzen-i kebiri" olarak nitelediği bu ansiklopediyi, Batılı örnekleri esas alarak, onlardan yararlanarak ve Türk-İslam coğrafyasıyla ilgili eksiklikleri tamamlayarak hazırlamıştır (bk. Kamûsü'l-A'lâm). Eser günümüzde de önemini korumaktadır.

Bir Tanzimat aydını olan Şemseddin Sâmi, modernleşme sürecindeki Türk toplumu için o günlerde gerekli olan hemen her bilim dalında kitaplar ve makaleler kaleme almış ve böylece halkın kültür seviyesinin yükselmesine katkı sağlamıştır. Şemseddin Sâmi içinde bulunduğu çağın dinamiklerini ve gelişmelerini zamanında farkeden özelikle milliyetçilik akımının etkilerini erkenden kavrayarak kendini bilhassa Türklük çalışmalarına adayan ve ardında devasa eserler bırakan büyük bir âlimdir.

Şemseddin Sâmi 4 Haziran 1904 tarihinde İstanbul'da vefat etti ve Erenköy'deki Sahrayıcedit Mezarlığı'na defnedildi. Mezarı, 1968 yılında Erenköy'den alınarak Feriköy'deki aile kabristanına nakledilmiştir.