Altyapı
TV Wiblingen ve SSV Ulm 1846 takımlarının altyapılarında oynayan Yılmaz, Ulm U-19 takımı ile 2004-05 sezonunda ilk kez oynamaya başladığı U-19 Bundesliga'da 13 maçta 15 gol kaydetti. 2005'te Avrupa şampiyonu olan Türkiye U-17 millî takımı ile dikkat çekip ünlü Alman ekibi Bayern Münih'in altyapısına transfer oldu.
2005-06 sezonunda Bayern Münih U-19 takımında 17 maçta 11 gol atarak Güney grubu ikincisi olarak Almanya finallerine kaldılar. Finale çıkan takım, FC Schalke 04 U-19 takımına 2-1 yenilerek Almanya ikincisi oldu. Yılmaz, final maçlarının hepsinde ilk 11'de sahaya çıksa da golle buluşamadı. Sonraki sene bu sefer Güney grubu birincisi olarak Almanya finallerine kalıp, yine Almanya ikincisi oldular. Yılmaz, yarı finallerde iki gol atarak takımı finale çıkaran isimlerden oldu.



