Alda war der Sohn des Schauspielers Robert Alda (1914-86). Er besuchte die Fordham University, bevor er in Broadway-Stücken wie „The Apple Tree“ und „The Owl and the Pussycat“ spielte. Nachdem er durch seine Auftritte in Kinofilmen wie Paper Lion (1968) und The Mephisto Waltz (1971) auf sich aufmerksam gemacht hatte, wurde er in der Rolle des Capt. „Hawkeye“ Pierce, einem witzigen, aber gefühlvollen Chirurgen der US-Armee während des Koreakriegs, in der beliebten Fernsehkomödie M*A*S*H ein Fernsehstar. Alda war Co-Autor und Regisseur vieler Episoden der Serie und gewann zahlreiche Emmy Awards. Zu seinen späteren Fernsehauftritten gehörten wiederkehrende Rollen in ER; The West Wing, für die er einen Emmy gewann; 30 Rock; The Big C; The Blacklist; und Ray Donovan. Er spielte auch in der Webserie Horace and Pete (2016) mit, Louis C.K.s Komödie über das Treiben in einer Bar. Außerdem moderierte Alda von 1993 bis 2007 die TV-Serie Scientific American Frontiers.
Alda kehrte auch gelegentlich an den Broadway zurück und spielte in Jake’s Women (1992), QED (2001-02), Glengarry Glen Ross (2005) und Love Letters (2014). Zu seinen Büchern gehören Never Have Your Dog Stuffed: And Other Things I’ve Learned (2005), Things I Overheard While Talking to Myself (2007) und If I Understood You, Would I Have This Look on My Face? My Adventures in the Art and Science of Relating and Communicating (2017).