Yaklaşık 6 yıldır ciğerlerindeki rahatsızlık nedeniyle tedavi gören Yılmaz, bir süredir müşahede altında bulunduğu Karadeniz Teknik Üniversitesi Farabi Hastanesi'nde yaşamını yitirdi.
Evli ve 7 çocuk babası olan Yılmaz, 6 yıldır Tonya Ziraat Odası Başkanı olarak görev yapıyordu.