Walker nació en el condado de Greenville, Carolina del Sur, y fue ciego de nacimiento. Pasó la mayor parte de su vida en Greenville y sus alrededores. Trabajó como músico itinerante, y pasó un tiempo con Gary Davis en 1912/13. A partir de 1923 fue dirigido ocasionalmente por Josh White, y más tarde por Sam Brooks, que era primo de Walker.

El 6 de diciembre de 1930, Walker grabó para Columbia Records en Atlanta, Georgia. Esta sesión produjo sus únicos títulos conocidos, incluyendo «South Carolina Rag», más tarde grabado por John Jackson. Walker tocaba con un estilo excepcionalmente rápido, y su «voz clara y juglaresca complementaba sus líneas de guitarra delicadas pero fuertemente estructuradas.» Se especializó en tocar en la tonalidad de Do.

El ciego Willie Walker murió en Greenville en 1933, a la edad de unos 36 años, a causa de una sífilis congénita, que puede haber sido la razón de su ceguera. En su certificado de defunción figuraba como músico profesional.

Las composiciones «Make Believe Stunt» y «Cincinnati Flow Rag» («Slow Drag»), que hizo famosas el reverendo Gary Davis, se atribuyeron a Walker, que había enseñado a Davis a tocar la guitarra.