Kahramanmaraş'ın Afşin ilçesinin Berçenek Köyü'nde dünyaya geldi. 1955 yılında, sonradan Ankara'ya nakledilen Mersin Astsubay Okulu'na kaydoldu. 1960'ta eşi Suna'yı kaçırdı ve 6 ay köyünde kaldı. Bu sırada okulu Balıkesir'e nakledildi. Okul komutanının çabası ile yeniden okula dönen Aşık Mahzuni, 6 ay devamsızlık yaptığına ilişkin bir ihbar üzerine okuldan atılınca yeniden köyüne döndü. 1964 yılında ilk plağı ile müzik piyasasına girdi. Bir süre Gaziantep'te ikamet ettikten sonra Ankara'ya taşındı. 1989-1991 yılları arasında Halk Ozanları Federasyonu tarafından Dünya'nın en büyük 3 ozanı arasında gösterildi. Sivas Dramı adlı türküsünü, 1993 yılında yaşanan Sivas Katliamı'nda yaşamını yitirenlere ithaf etmiştir.
2001 yılının başlarında rahatsızlanarak, kalp ve solunum yetmezliği nedeniyle, JFK Hospital (Almanya) 'da yoğun bakım altına alındı. Mayıs ayında taburcu edildi. 17 Mayıs 2002 tarihinde, evli, sekiz çocuk, dört torun sahibi olan Mahzuni Şerif 60'lı yaşlarında Almanya'nın Köln şehrinde vefat etti. Mezarı şu an son ikametgâhı olan Hacı Bektaş Veli Külliyesi'nin yakınındaki Çilehane adı verilen bölgededir.
Eserleri
Türk halk müziği sanatçıları tarafından söz ve besteleri sıklıkla kullanılmıştır. Araştırmacı Yazar Battal Pehlivan'ın Aşık Mahzuni Şerif'in yaşamı ve sanatı üzerine yaptığı incelemenin adı Dom Dom Kurşunu idi. Dom Dom Kurşunu, Yedin Beni, Yuh Yuh, Fadimem, Gül Yüzlüm, Ciğerparem, Merdo, Dostum Dostum, Han Sarhoş Hancı Sarhoş, Çeşmi Siyahım,Yalan Dünya, Ağlasam mı?, Abur Cubur Adam, Katil Amerika ve Ekmek Kölesi gibi birçok bilinen eserleriyle tanınan Aşık Mahzuni'nin türkülerini Gülden Karaböcek'ten Zeki Müren'e, İbrahim Tatlıses'ten Ahmet Kaya'ya Mahsun Kırmızıgül'e Murat Göğebakan'dan Selda Bağcan'a kadar birçok Türk halk müziği ve bazı pop müzik sanatçıları da okudu. Halk şiirine gönül veren ve konuşma dilini şiirleştiren Aşık Mahzuni'nin 453 plağı, 58 kasedi ve yayınlanmış 8 adet kitabı bulunuyor. Ayrıca TRT tarafından çekilmiş 2 adet belgeseli bulunmaktadır.