Birçok askeri başarı elde etmiş olan Gazi Osman Paşa, asıl şöhretini Sırp prensi Milan'ın 2 Temmuz 1876'da Osmanlı Devletine savaş ilan etmesi esnasında, Rus generallerinin kumanda ettiği Sırp ordusunu bozguna uğratması ile elde etti. 1877-78 Osmanlı Rus savaşları sırasında Plevne'yi başarı ile savundu ve bu savaş sonunda kendisine "gazilik" ünvanı verildi. Askeri şahsiyeti yanında siyasi faaliyetlerde de bulundu. İstanbul'daki dini grupların birleşmesini sağladı. Sarayda bulunduğu süre içinde dış politika konularında Sultan İkinci Abdülhamid'i etkilemeye çalıştı. Gazi Osman Paşa, 4-5 Nisan 1900 yılında, Cuma günü vefat etti ve Fatih Sultan Mehmed türbesi yanına gömüldü.
Gazi Osman Paşa, iyi dercede Arapça, biraz da Farsça ve Fransızca biliyordu. Ferik Neşet Paşa'nın kız kardeşi Zatıgül Hanımla evlendi. Sultan İkinci Abdülhamid kendisini çok takdir ettiği için iki kızını, Gazi Osman Paşa'nın iki oğlu ile evlendirmiştir.