Alda was de zoon van acteur Robert Alda (1914-86). Hij ging naar Fordham University voordat hij ging acteren in Broadway-stukken als The Apple Tree en The Owl and the Pussycat. Nadat hij bekend werd door zijn acteerprestaties in films als Paper Lion (1968) en The Mephisto Waltz (1971), werd hij een ster op de televisie in de rol van Capt. “Hawkeye” Pierce, een wijze maar soulvolle chirurg van het Amerikaanse leger tijdens de Koreaanse oorlog, in de populaire televisiekomedie M*A*S*H. Alda schreef en regisseerde veel van de afleveringen van de show en won vele Emmy Awards. Zijn latere televisiewerk omvatte terugkerende rollen in ER; The West Wing, waarvoor hij een Emmy won; 30 Rock; The Big C; The Blacklist; en Ray Donovan. Ook was hij te zien in de webserie Horace and Pete (2016), de komedie van Louis C.K. over het reilen en zeilen in een bar. Daarnaast was Alda van 1993 tot 2007 gastheer van de tv-serie Scientific American Frontiers.
Alda keerde ook af en toe terug naar Broadway, met optredens in Jake’s Women (1992), QED (2001-02), Glengarry Glen Ross (2005), en Love Letters (2014). Zijn boeken omvatten Never Have Your Dog Stuffed: And Other Things I’ve Learned (2005), Things I Overheard While Talking to Myself (2007), en If I Understand You, Would I Have This Look on My Face? My Adventures in the Art and Science of Relating and Communicating (2017).