10.03.1959 da Trabzon-Of İlçesi Yazlık Köyünde (Baba; Mehmet KÜÇÜK, Anne; Ayşe KÜÇÜK )dünyaya geldi. İlkokulu köyünde tamamladı. 1970-71 öğretim yılında Konya İmam-Hatip lisesine kaydoldu. Ailevi sebepler nedeniyle 1975-76 öğretim yılında Trabzon İmam-Hatip lisesine naklini yaptırdı ve 1976-77 öğretim yılında Trabzon İmam-Hatip lisesinden mezun oldu.
Aynı yıl 1977 Ağustos ayında (Diyanette) Sürmene İlçesi Kuşluca Köyünde İmam-Hatiplik görevine başladı. 1980-81 öğretim yılında Marmara Üniversitesi İlahiyat Fakültesi ne kaydoldu. Görevini Fatih İskender Çelebi Camiinde Müezzin olarak sürdürdü.
1983-84 yılında İlahiyat Fakültesinden mezun oldu.1985 yılında Vatani görevini yerine getirmek üzere askerliğe Tuzla Piyade Okulunda başladı. Daha sonra kura sonucu Sarıkamış 17. Piyade Alayında Asteğmen olarak devam etti. 1987 de terhis oldu.
1988 Mart ayında Almanya (T.C.Duesseldorf Başkonsolosluğu görev bölgesi olan Hilden Yunus Emre Camii Din görevlisi olarak Başkanlığımızca Yurt dışına gönderildi. Altı yıl bu görevi deruhte ettikten sonra 1994 yılında bu görevini tamamlayarak İstanbul Fatih Müftülüğü Canbaziye Camii İmam-Hatipliği görevinde bulundu. 1988 yılında açılan 12.Dönem Müftü ve Vaizler İhtisas kursuna devam etti. 1998 yılında Başkanlığımızca açılan Müftülük sınavını kazanarak Van İli Çaldıran İlçe Müftüsü olarak atandı. İki yıl bu göreve devam ettikten sonra 2000-2004 yılları arası Trabzon Tonya İlçe Müftüsü olarak tayin oldu. 2004 yılı Mart ayında Almanya Münih Başkonsolosluğu görev bölgesi olan Münih Merkez (DİTİM) Camiine din görevlisi olarak atandı. İki yıl bu görevi sürdürdü. Daha sonra yine Münih Dachou DİTİB Camiinde iki yıl görev yaptıktan sonra 2008 de Türkiye’ye dönüş yaptı. Kısa bir müddet Bakırköy Vaizi olarak görev ifa ettikten sonra, Kastamonu Araç ilçe Müftüsü olarak tayin edildi. Dört yıl bu İlçede kaldıktan sonra 15.10.2012 tarihi itibariyle Karamürsel ilçe Müftüsü olarak göreve başladı. 13.02.2017 tarihinde İstanbul İL Müftü Yardımcılığına atandı. Bayrampaşa İlçe Müftüsü olarak atanan Yılmaz KÜÇÜK 15.05.2017 tarihinde görevine başlamış olup, halen görevine devam etmektedir.
Evli ve üç çocuk babası olan müftümüz Arapça ve Almanca bilmektedir.