Polis bir babanın oğlu olan Köksal, aslen o dönem Adana’ya bağlı bulunan Osmaniyelidir. İlkokulu Adana’da tamamlayan sanatçı, daha sonra İstanbul’a giderek Tophane Sanat Enstitüsü’nde eğitim aldı. Çizgi roman çizeri Yücel Köksal’ın kardeşi olan oyuncu, gençlik yıllarında denizci astsubay olmayı hedefledi ancak boyunun 1 santimetre kısa olması nedeniyle bu hayalini gerçekleştiremedi. Bir süre sivil gemilerde çalışarak Avrupa’yı dolaştı.
Sinemaya adımını, Tunç Başaran’ın 1965 yılında beyazperdeye uyarladığı, Orhan Kemal imzalı “Murtaza” eserindeki “Dubara” rolüyle attı. Uzun yıllar yardımcı rollerde kamera karşısına çıkan Köksal, 1970 yılında Çetin İnanç’ın yönettiği “Çeko” filmiyle başrole yükseldi.
Sinemanın yanı sıra tiyatro sahnesinde de yer alan Köksal, 1980’de Muzaffer İzgü’nün aynı adlı eserinden uyarlanan ve TRT’de yayınlanan “Mahmut Mangal” dizisinde başrolü üstlendi. Kariyeri boyunca çok sayıda film ve televizyon yapımında rol alan Yılmaz Köksal, özellikle sert ve otoriter karakterleriyle hafızalarda yer etti.
Türk sinemasının üretken dönemlerine tanıklık eden Köksal, Yeşilçam’ın emektar isimleri arasında gösteriliyor.
