Hasan Âli Yücel, baba tarafından Posta Nazırı Göreleli Hasan Ali Efendi’nin, anne tarafından ise Japon sularında batan Ertuğrul Fırkateyni süvarisi deniz albay Ali Bey’in torunudur. Babası Ali Rıza Bey, annesi Neyyire Hanım’dır. Hasan Âli Yücel, şair Can Yücel’in babasıdır.
Eğitim yaşamını sırasıyla Mekteb-i Osmani, Vefa İdadisi, Cağaloğlu Darülmuallimin-i Âli’ye (Yüksek Öğretmen Okulu) okullarında sürdürdü. İstanbul Üniversitesi Edebiyat Fakültesi Felsefe Bölümü’nü bitirdi ve 19 Aralık 1922’de öğretmenliğe başladı.
12 Temmuz 1932 tarihinde Türk Dili Tetkik Cemiyeti’nin (Türk Dil Kurumu) kurulmasıyla Hasan Âli Yücel etimoloji kolu başkanlığına getirildi. 1935 yılında Cumhuriyet Halk Partisi’nden, İzmir Milletvekili olarak Meclise girdi, art arda dört dönem milletvekilliği yaptı.
Dört yıllık çabaları sonucunda 25 Haziran 1946’da Üniversiteler Yasası çıkartılır. “Bu yasayla, yüksek öğretim kurumlarının Bakanlıkla olan “sıkı bağı” önemli ölçüde gevşetilmiş, mevcut kuruluşlar yapısal bir bütünlüğe kavuşturulmuş, böylece üniversiteye organik bir karakter kazandırılmıştır. Bu yasanın getirdiği bir başka sonuç da, “dışarıdan gerilim” yerine “içeriden denetim”in getirilmiş olmasıdır. Ankara Üniversitesi de bu yasanın sonucu olarak kurulmuştur.”
5 Ağustos 1946’da 7 yıl 5 ay sürdürdüğü Milli Eğitim Bakanlığı görevinden istifa etti. İstifasından sonra gazetecilik görevine döndü. 26 Şubat 1961 tarihinde İstanbul’da konuk olarak kaldığı Prof. Dr. Tevfik Sağlam’ın evinde vefat etti. 2 Mart 1961 tarihinde Cebeci Asri Mezarlığı’nda toprağa verildi.