1984 yılından bu yana Yapı Kredi’de Hazine/Sermaye Piyasaları Bölüm Başkanlığı ve farklı şubelerde şube müdürlüğü görevlerini üstlenmiş olan Yılmaz, son 6 yıldır Yapı Kredi Özel Bankacılık Satış Grubu Başkanlığını yürütüyordu. 1984 yılında Boğaziçi Üniversitesi Ekonomi Bölümü’nden mezun olan Yılmaz, iyi derecede İngilizce biliyor.