1976’da mezun olduğu akademinin başkanlığına seçildi. 1982’de Anadolu Üniversitesi rektörlüğüne getirildi. 1987’de aynı göreve tekrar atandı. Ayrıca, 2 dönem Radyo Televizyon Yüksek Kurulu başkanlığını yürüttü. 1994 yılında 3984 Sayılı Kanununun çıkarılmasıyla bu görevinden ayrıldı. Türkiye’nin ikinci Sinema ve Televizyon Okulu’nun kuruluşunu Eskişehir’de gerçekleştirdi. Anıtkabir müzesinde Mustafa Kemal Atatürk’ün birebir boyutlardaki balmumu heykeli, yine Prof. Büyükerşen tarafından yapılmıştır. Ayrıca Eskişehir’in ikinci üniversitesinin kurulmasına ve açık öğretim fakültesinin kurulmasına da öncülük etmiştir
Prof. Dr. Yılmaz Büyükerşen; evli, iki çocuk ve iki torun sahibidir. Ayhan Şahenk Vakfında yönetim kurulu üyesi olan Prof. Büyükerşen, aynı zamanda Kanal D’nin kurucularındandır.
Büyükerşen, resim ve heykel gibi güzel sanatlara yatkınlığını rektörlüğü döneminde üniversitelere açtığı bölümler ile, özel yaşamında da özellikle yarattığı balmumu heykellerde göstermiştir. Belediye başkanlığı döneminde ise Eskişehir’e koyduğu heykeller ile sanata ilgisini belli etmiş, bu heykeller ile halka mesaj verme amacı gütmüş, zaman zaman tepki toplamış, eleştirilmiştir.
Büyükerşen’in Zamanı Durduran Saat adlı otobiyografisi ve Mehmet Sadık Bozkurt tarafından kaleme alınmış Bir Ömür Ki Yılmaz Büyükerşen adlı biyografisi kitap olarak basılmıştır.
