Fetterman tog värvning i unionsarmén den 14 maj 1861 i Delaware och utnämndes genast till förste löjtnant. Han tjänstgjorde i första bataljonen i det amerikanska 18:e infanteriregementet under hela kriget och fick två gånger brevett för galant uppträdande och avslutade kriget som överstelöjtnant i frivilligkåren.

Efter kriget valde han att stanna kvar i den reguljära armén och tilldelades som kapten i andra bataljonen i det 18:e infanteriregementet. I november 1866 var regementet stationerat vid Fort Phil Kearny, med uppgift att skydda invandrare som reste till guldfälten i Montana Territory längs Bozeman Trail. Fetterman påstods skryta med att han med 80 soldater kunde ”rida genom hela siouxnationen.”

Den 21 december 1866 attackerade ett stort gäng cheyenne- och siouxmän – som bland annat bestod av Crazy Horse – under ledning av Red Cloud ett skogståg nära fortet. Trots att han var obekant med förhållandena vid gränsen och metoderna för indianstrider tog Fetterman befälet över en sammansatt reaktionsstyrka som bestod av den tidigare bataljonskvartermästaren, kapten Frederick Brown, 2nd Lt. George Grummond, 49 värvade trupper från 18:e infanteriet, 27 man från 2:a kavalleriet och 2 civila spanare, totalt 80 man. Fetterman ignorerade sina order att inte våga sig bortom Lodge Trail Ridge (utom synhåll och på stödavstånd från fortet) och förföljde en liten grupp siouxer och lurades in i ett bakhåll. Han fann sig stå inför cirka 2 000 indianer. Inom 20 minuter hade Fetterman och hans befäl utplånats.

The Fetterman Fight, som mötet blev känt, var näst mest känt efter Custers katastrofala nederlag 1876. Det ledde till att Fettermans befälhavare Henry B. Carrington avskedades, som till en början fick skulden för katastrofen, men så småningom frikändes.

Fettermans grav ligger på den nationella kyrkogården vid Little Bighorn Battlefield National Monument. Han hade aldrig gift sig och lämnade inga arvingar efter sig.