Fetterman meldde zich op 14 mei 1861 in Delaware aan bij het leger van de Unie en werd al snel benoemd tot eerste luitenant. Hij diende de hele oorlog bij het eerste bataljon van het US 18th Infantry Regiment en werd tweemaal brevetted voor galant gedrag en eindigde de oorlog als luitenant-kolonel van de Volunteers.

Na de oorlog koos hij ervoor om in het reguliere leger te blijven en werd hij als kapitein ingedeeld bij het tweede bataljon van het 18th Infantry Regiment. In november 1866 was het regiment gestationeerd in Fort Phil Kearny, dat tot taak had immigranten te beschermen die langs de Bozeman Trail naar de goudvelden van Montana Territory reisden. Fetterman pochte naar verluidt dat hij met 80 soldaten “door de hele Sioux-natie kon rijden.”

Op 21 december 1866 viel een grote bende Cheyenne en Sioux – waaronder Crazy Horse – onder leiding van Red Cloud een houttrein in de buurt van het fort aan. Ondanks zijn onbekendheid met de omstandigheden aan het front en de methoden om Indianen te bevechten, nam Fetterman het bevel over een reactiemacht bestaande uit de voormalige kwartiermeester van het bataljon, kapitein Frederick Brown, 2e luitenant George Grummond, 49 soldaten van de 18e Infanterie, 27 mannen van de 2e Cavalerie en 2 civiele verkenners, in totaal 80 man. Fetterman negeerde zijn orders om niet verder te gaan dan Lodge Trail Ridge (uit het zicht en op ondersteuningsafstand van het fort) en achtervolgde een kleine groep Sioux die in een hinderlaag werd gelokt. Hij kwam tegenover ongeveer 2.000 Indianen te staan. Binnen 20 minuten waren Fetterman en zijn commando weggevaagd.

Het Fetterman Gevecht, zoals het treffen bekend werd, was alleen na Custer’s rampzalige nederlaag in 1876 berucht geworden. Het leidde tot het ontslag van Fetterman’s bevelvoerende officier, Henry B. Carrington, die aanvankelijk de schuld kreeg van de ramp, maar uiteindelijk werd vrijgesproken.

Fetterman’s graf is op de Nationale Begraafplaats bij het Little Bighorn Battlefield National Monument. Hij was nooit getrouwd en liet geen erfgenamen na.