İstanbul'da doğdu. Babası İbrâhim Edhem Paşa'dır (ö. 1893). İbrâhim Edhem Paris'te eğitim görmüş, İstanbul'a döndükten sonra çeşitli dönemlerde Hariciye, Ticaret, Nâfia, Maarif, Adliye ve Dahiliye nazırlığı, Berlin ve Viyana'da sefirlik, Şubat 1877 tarihinden Ocak 1878'e kadar da sadrazamlık yapmıştır. Osman Hamdi, Beşiktaş'ta bir ilkokulda eğitimini tamamladıktan sonra Mekteb-i Maârif-i Adliye'ye kaydoldu. 1860 yılında babası tarafından hukuk eğitimi görmesi için Paris'e gönderildi. Ancak bir süre sonra Paris'te hukuk eğitimini bırakarak resme yöneldi ve çalışmalarına Gustave Boulanger'nin atölyesinde devam etti. 1866, 1867 ve 1868 yıllarında Paris'teki Güzel Sanatlar Okulu'nun (École des Beaux-Arts) resmî sanat sergisi olan salonda resimlerini sergiledi. Haziran 1868 tarihinde İstanbul'a dönen Osman Hamdi, kısa bir süre sonra Bağdat valiliğine atanmış olan Midhat Paşa'nın maiyetinde Vilâyet Umûr-ı Ecnebiye müdürü olarak Bağdat'a gitti. 1871'de İstanbul'a geri döndüğünde Teşrîfât-ı Hâriciye müdür muavini oldu. 1873 Viyana Dünya Sergisi'nde Osmanlı Pavyonu'ndan sorumlu olarak görev yaptı. Marie de Launay ile birlikte hazırladığı "Elbise-i Osmâniye" (Les costumes Populaires de la Turquie) adlı albüm de ilk defa burada sergilendi.

Daha sonraki yıllarda Hariciye Umûr-ı Ecnebiye kâtipliği, 1875; Matbûat-ı Ecnebiye müdürlüğü, 1876; Beyoğlu Altıncı Daire Belediye müdürlüğü, 1877 görevlerinde bulunan Osman Hamdi, 1878 yılında devlet memuriyetinden ayrılıp kendini resim yapmaya adadı. Müze-yi Hümâyun'un müdürü P.A. Dethier'in ölümü üzerine 4 Eylül 1881 tarihinde bu müzenin müdürlüğüne tayin edildi. 1882 yılında S. Reinach ile birlikte müzenin katalogunu çıkardı. 1883'te Nemrut dağı seyahatini yaparak raporunu yayımladı. 1891'de mimar A. Vallaury'e yeni bir müze binası inşa ettirdi. Müze-yi Hümâyun adına yaptırdığı kazılarla (Tralles, Alabanda, Boğazköy, Alacahöyük, Akalan, Langaza, Sakçagözü, Sidamara, Bozöyük, Rodos, Taşoz, Yortan, Notion, Kadeş, Gorikos, Tedmür, Sipara) müzeyi bütün arkeoloji dünyasına tanıttı. Lagina ve Sayda kazılarını bizzat yöneterek 1884'te eski eserlerin yurt dışına çıkarılmasını önleyecek Âsâr-ı Atîka Nizamnamesi'ni çıkarttı.

Müze-yi Hümâyun müdürlüğüne atanmasından kısa bir süre sonra Sanâyi-i Nefîse Mektebi'nin de müdürlüğüne getirilerek Türkiye'de güzel sanatlar eğitimini resmen başlatan kişi oldu.

Sanâyi-i Nefîse Mektebi'nin açılmasına kadar en önemli ressamları yetiştiren kurumlar askerî okullardı. Resim dersi bu okullara askerî amaçlarla konmuştu. Ancak Mühendishane ve Harbiye'deki resim derslerinde figürden çalışma yoktu. Başlıca konular manzara ve ölü doğaydı. Heykel eğitimi ise hiçbir kurumda yoktu. Paris'te bulunduğu süre içinde akademik ressam G. Boulanger'nin atölyesine devam eden ve burada aldığı eğitimin etkisiyle gerçek bir atölye ressamı olan Osman Hamdi'nin ise sanat eğitiminde en önemli amacı canlı ya da cansız modelden figür çalışmayı başlatmaktı. Sanâyi-i Nefîse Mektebi'nin öğretim kadrosuna asker ressamların yerine Batı'da akademik eğitim almış, figür çizmeyi bilen gayrimüslim hocaları tayin ederek öğrencilere ilkin figür çizmeleri ardından bunları figürlü kompozisyonlara dönüştürmeleri öğretildi. Ancak başlangıçta canlı model bulmak zor olduğundan alçı mulajlardan ya da müzenin heykel koleksiyonundan yararlanılmıştır. 1890'lardan başlayarak mezun öğrenciler yurt dışına gönderilmeye başlanmış, Avrupa'ya gönderilen ressamlar ise dönüşlerinde Türk resmine yeni bir yön vermiştir (bk. Sanâyi-i Nefîse Mektebi).

Osman Hamdi Bey'in tamamen Batı sanat akademilerini esas alarak kurduğu Sanâyi-i Nefîse Mektebi uzun yıllar Türkiye'de güzel sanatlar ve mimarlık alanında rol oynayacak en önemli kişileri yetiştiren tek kurum olma özelliğini korumuş, ilerleyen yıllarda Güzel Sanatlar Akademisi (1927), Devlet Güzel Sanatlar Akademisi (1969), Mimar Sinan Üniversitesi (1982) ve Mimar Sinan Güzel Sanatlar Üniversitesi (2004) adları altında eğitime devam etmiştir. Osman Hamdi Bey, resim başta olmak üzere güzel sanatlar eğitimi ve bir boyutu ile eğitim olarak gördüğümüz arkeolojik kazılar ve arkeoloji müzeleri konusunda öncü işler başarmıştır.