Atilla Yılmaz aslen Trabzonlu olup İstanbul'da doğup büyümüştür. Kendisi albümlerinden de anlaşılacağı gibi milliyetçi, vatansever ve idealist bir Türk gencidir. Çok küçük yaşlardan itibaren Ülkü Ocakları'nın birçok kademesinde çeşitli görevlerde bulunmuştur. Bağcılar Ülkü Ocakları Başkanlığı, Genel Merkez Kültür ve Sanat Masası Başkanlığı, İstanbul Ülkü Ocakları İl Başkan Yardımcılığı gerçekleştirdiği görevler arasında yer almaktadır.
Müzik ile tanışması da yine çok küçük yaşlarda olmuştur. Özellikle bağlama sazına olan tutkusu okul çağlarında gece yarılarına kadar uykusuz kalmasına rağmen, öğrenme başarısı ve çalabilme hazzı ile sonuçlanmıştır. Atilla Yılmaz yaşıtlarından farklı olarak daha 15'li yaşlarında bağlaması ile Türkiye’nin dört bir yanını karış karış gezerek etkinliklere katılmaktaydı. Daha sonra sazında ustalaşan Yılmaz yapmış olduğu beste ve söz yazarlığı ilede başarılarına yenilerini ekledi.
İlk olarak 1995 yılında "Haykırın" isimli bir albümü piyasaya çıktı. Daha sonra Grup Ötüken’in solisti olarak bir çalışma daha gerçekleştirdi. Sonra dağıtımında sorunla karşılaşılan "Oy Leyli" albümünü hazırladı. 2005 yılında ise Türk'ün yiğit sesini daha geniş kitlelere ulaştırmak için "Vaktidir" dedi. Ve bu albüm durgun müzik piyasasında 30 bin gibi bir sayıya ulaşarak rekora koştu. Müzik firması tarafından ödüllendirilen Türk'ün yiğit sesi bu arada yurdun dört bir yanında daha büyük bir hayran kitlesi ile buluşmaya devam etmekteydi. İki yıl aranın ardından bu defa "Vur" isimli çalışması ile yine dillerden düşmeyecek eserlerini gönüldaşları ile buluşturdu. 2011 yılında Uyan ve 2013 yılında Yürüyün albümleriyle dinleyicilerinin gönlünü fethetti. Son olarak 2015 yılında Benim Türküm albümüyle çok daha geniş dinleyici kitlelerine ulaştı.
Başarılı sanatçı evli ve iki çocuk babasıdır.