Leahy s-a născut la 27 octombrie 1904 în San Francisco, California. Tatăl său a fost amiralul de flotă William D. Leahy. Leahy s-a căsătorit cu Elizabeth Marbury Beale la 23 iulie 1927 și au avut doi copii, Louise Harrington (numită după bunica sa) și Robert Beale.

După ce a urmat cursurile Școlii Sidwell Friends, și-a finalizat studiile de licență la Academia Navală a Statelor Unite; a primit, de asemenea, un master în arhitectură navală de la MIT și a continuat studiile de management la Harvard Business School.

Leahy a servit ca ofițer superior de proiectare pentru construcția de ambarcațiuni de debarcare, iar mai târziu ca șef al Secției de ambarcațiuni de debarcare, Biroul de Nave, din noiembrie 1942 până în octombrie 1945 și a primit Legiunea de Merit pentru serviciile sale. În calitate de contraamiral, a fost comandant al șantierului naval, Norfolk Navy Yard între 30 iunie 1958 și 29 iunie 1960.

Leahy a fost membru al Societății Arhitecților Navali și Inginerilor Marini și al Societății Newcomen.

A murit la 12 mai 1986 în Chevy Chase, Maryland și este înmormântat alături de Elizabeth și părinții săi la Cimitirul Național Arlington.

.