Alda era figlio dell’attore Robert Alda (1914-86). Ha frequentato la Fordham University prima di recitare in spettacoli di Broadway come The Apple Tree e The Owl and the Pussycat. Dopo essersi fatto notare per la sua interpretazione in film come Paper Lion (1968) e The Mephisto Waltz (1971), è diventato una star in televisione nel ruolo del capitano “Hawkeye” Pierce, un chirurgo dell’esercito americano durante la guerra di Corea, nella popolare commedia televisiva M*A*S*H. Alda ha scritto e diretto molti degli episodi dello show e ha vinto numerosi Emmy Awards. Il suo lavoro televisivo successivo ha incluso ruoli ricorrenti in ER; The West Wing, per il quale ha vinto un Emmy; 30 Rock; The Big C; The Blacklist; e Ray Donovan. È apparso anche nella serie web Horace and Pete (2016), la commedia di Louis C.K. sugli avvenimenti di un bar. Inoltre, Alda ha condotto la serie televisiva Scientific American Frontiers dal 1993 al 2007.
Alda ha fatto anche dei ritorni occasionali a Broadway, apparendo in Jake’s Women (1992), QED (2001-02), Glengarry Glen Ross (2005), e Love Letters (2014). I suoi libri includono Never Have Your Dog Stuffed: And Other Things I’ve Learned (2005), Things I Overheard While Talking to Myself (2007), e If I Understood You, Would I Have This Look on My Face? My Adventures in the Art and Science of Relating and Communicating (2017).