Fetterman zaciągnął się do armii Unii 14 maja 1861 r. w Delaware i szybko został mianowany pierwszym porucznikiem. Przez całą wojnę służył w Pierwszym Batalionie 18 Pułku Piechoty USA i został dwukrotnie odznaczony za waleczne zachowanie, kończąc wojnę w stopniu podpułkownika ochotników.

Po wojnie zdecydował się pozostać w regularnej armii i został przydzielony jako kapitan do Drugiego Batalionu 18 Pułku Piechoty. W listopadzie 1866 roku pułk stacjonował w Forcie Phil Kearny, którego zadaniem była ochrona imigrantów podróżujących do złóż złota w Montana Territory wzdłuż szlaku Bozeman Trail. Fetterman podobno chwalił się, że mając 80 żołnierzy, mógłby „przejechać przez cały naród Siuksów”

21 grudnia 1866 roku duża banda Czejenów i Siuksów – w skład której wchodził Szalony Koń – pod wodzą Czerwonej Chmury zaatakowała pociąg z drewnem w pobliżu fortu. Pomimo nieznajomości warunków granicznych i metod walki z Indianami, Fetterman objął dowództwo nad złożonymi siłami reagowania, składającymi się z byłego kwatermistrza batalionu, kapitana Fredericka Browna, podporucznika George’a Grummonda, 49 żołnierzy 18. piechoty, 27 ludzi z 2. kawalerii i 2 cywilnych zwiadowców, w sumie 80 ludzi. Ignorując rozkazy, by nie zapuszczać się poza Lodge Trail Ridge (poza zasięgiem wzroku i wsparcia fortu), Fetterman ścigał małą grupę Siuksów i został zwabiony w zasadzkę. Znalazł się w obliczu około 2 000 Indian. W ciągu 20 minut, Fetterman i jego dowództwo zostali zmieceni z powierzchni ziemi.

Walka Fettermana, jak to spotkanie stało się znane, było drugim w sławie tylko po katastrofalnej klęsce Custera w 1876 roku. Doprowadziła do zwolnienia dowódcy Fettermana, Henry’ego B. Carringtona, którego początkowo obwiniano za klęskę, ale ostatecznie oczyszczono z zarzutów.

Grób Fettermana znajduje się na Cmentarzu Narodowym w Little Bighorn Battlefield National Monument. Nigdy się nie ożenił i nie pozostawił spadkobierców.