Leahy se narodil 27. října 1904 v San Franciscu v Kalifornii. Jeho otcem byl admirál flotily William D. Leahy. Leahy se 23. července 1927 oženil s Elizabeth Marbury Bealeovou a měl dvě děti, Louise Harringtonovou (pojmenovanou po své babičce) a Roberta Beala.

Po studiu na Sidwell Friends School absolvoval bakalářské studium na Námořní akademii Spojených států; získal také magisterský titul v oboru námořní architektury na MIT a dále se věnoval managementu na Harvard Business School.

Leahy působil od listopadu 1942 do října 1945 jako starší důstojník konstrukce vyloďovacích plavidel a později jako vedoucí sekce vyloďovacích plavidel Úřadu pro lodě a za svou službu obdržel Řád za zásluhy. Jako kontraadmirál byl v období od 30. června 1958 do 29. června 1960 velitelem loděnice Norfolk Navy Yard.

Leahy byl členem Společnosti námořních architektů a námořních inženýrů a Newcomenovy společnosti.

Zemřel 12. května 1986 v Chevy Chase ve státě Maryland a je pohřben spolu s Elizabeth a svými rodiči na Arlingtonském národním hřbitově.

Podle svých slov se stal velitelem loděnice v Norfolku.