경기도 지평(砥平 현재 楊平) 출신이다. 원래 기개가 있고 용력이 비상하였으며, 학문은 없지만 대의를 위해서는 누구보다도 앞장서는 인물이었다. 일찍이 '동학농민운동'이 있을 때에는 지평·홍천(洪川) 등지에서 난군들의 약탈로 민간의 폐해가 매우 큰 것을 보고 앞장서서 감역(監役) 맹영재(孟英在)와 함께 지방 포수를 모아 조직 훈련하고 난동군들을 쳐서 부근 일대를 편안하게 하였다. 1895년 명성황후시해 사건의 소식을 듣고 비분강개함을 참지 못하던 중 임금이 강제 삭발을 당하였다는 소식과 함께 지방에서도 단발령이 시행되고 인심이 크게 설레니 김백선은 의병을 일으켜 적을 토벌할 것을 결심하였다. 이에 맹영재를 찾아가서 군사를 일으켜 적을 토벌하자고 권하였는데, 맹은 이해관계를 말하며 응낙하지 않았다. 백선은 크게 노하여 눈을 부릅뜨고 꾸짖어 말하기를 "이런 대변의 때를 당하여 이 나라의 신민(臣民)된 자라면 대소 귀천을 막론하고 목숨을 바쳐 싸워서, 살면 의로운 사람이 되고 죽으면 의로운 귀신이 될 것이다. "더구나 관청에 앉아 인부(印符)를 차고 있는 신하로서 위로는 군부(君父)의 욕보는 일을 급하게 여기지 않고, 아래로는 백성들이 죽게 된 것을 동정하지 않는다면 주군(州郡)은 있어 무엇 하느냐" 하며 총을 부숴 뜨락에 던지고 집으로 돌아와서 자결하려던 참에 괴은 이춘영(槐隱 李春永)이 찾아와서 의거할 것을 권유하였다. 이때 군수 맹영재의 휘하에 포군(砲軍) 4백 명이 있었는데, 그들은 모두 김백선이 맹영재와 동학 농민군을 토벌할 때에 양성시켜 지휘하던 김백선의 수하 병력이었다. 김백선은 그들에게 설유하여 말하기를

"나나 공들이 모두 시골 백성으로 비록 나라의 녹을 먹지는 못하였지만 우리가 입은 옷이나 우리가 먹는 밥이 그 어느 것이 임금의 주시는 물건이 아니랴. 이런 망극한 변을 당하여 어찌 적을 토벌하고 원수를 갚아서 그 은혜의 만분의 일이라도 보답할 것을 생각하지 않을 수 있느냐" 고 하니 군사들이 모두 감격하여 따르기를 맹서하였다. 여기서 이춘영·김백선 2인은 군사를 이끌고 이웃 지방인 강원도 원주군 안창역(安昌驛)으로 모이게 하니 따라 붙는 자가 백여 명으로 추산되었다. 이곳에서 다시 안승우(安承禹)와 합세하여 크게 의거의 깃발을 드니 때는 1896년 1월 13일이었다. 이들은 원주 사람 김사정(金思鼎)을 총독(總督), 박운서(朴雲瑞)를 도령장(都領將)에 임명하고 원주 군사들을 더 소모하여 따라오게 한 다음 1월 17일(음 12월 3일)에 충청도 제천(堤川)으로 나와서 유진하였다. 이리하여 제천 의진의 형성을 보게 되었다. 이때 의암 유인석(毅菴 柳麟錫)을 대장으로 추대하여 대장소(大將所)를 설치하고 2월 3일(음 12월 30일) 부서를 확정지었다. 김백선은 선봉장에 임명되었으며, 충주(忠州) 진격을 결정하고 2월 16일(음 1월 4일) 행군을 시작하였다. 대군이 성 아래에 이르렀으나 성문이 굳게 닫혀 들어갈 수 없었다. 밤에 김백선이 동문을 넘어 들어가서 성문지기를 죽이고 성문을 열었으므로 성을 함락시킬 수 있었다. 적군은 모두 북문으로 도망쳤다. 다시 적군이 쳐들어올 기미가 있자 김백선은 병사 3백 명을 이끌고 적군을 추격하여 멀리 쫓았으니 충주함락은 김백선의 공이 컸다. 제천을 본진으로 삼고 선봉장 김백선은 가흥(佳興)방면으로 진격하여 3월 16일(음 2월 3일)부터 총공격을 전개하였다. 이들은 충주 매운(梅雲)에 이르러서 적과 대적하기에 군사의 수가 적음을 깨닫고 군사를 머물게 하고 본진에 청병을 요청하였다. 그러나 중군장 안승우는 원병을 보낼 형편이 못되었다. 마침 경기도 의병장 심상희(沈相禧)가 원주에서 청풍(淸風)쪽으로 나왔다가 구원하여 준다고 하였으나 지체하고 싸움에 참가하지는 않았으며 다만 참장(參將) 한동직(韓東直)만이 원주에서 제천으로 나오다가 원서(院西)에서 가흥으로 진군하는 제천 장병들을 만나 함께 싸움터로 나갔던 것이다. 즉 증원병이 제대로 지원되지 않은 것이다. 뿐만 아니라 정작 전투시에 있어서는 한동직이 거느린 군사는 먼저 싸우기를 기피하여 멀리 퇴각하기까지 하였다.

3월 19일(음 2월 6일)에 가흥 근처에서 산을 의지하고 주둔하여 있던 출정장병들은 적이 강을 건너와 청룡촌(靑龍村)에 들어가서 불을 놓는 것을 보고, 내려다보며 공격을 퍼부어 많은 적병들을 죽이고 다시 추격하여 강을 건너 바로 적 진지 부근까지 들어가서 맹렬히 공격하니 적진에서는 크게 당황하였다. 그러나 한동직이 거느린 원주 군사가 미리 퇴각하고 선봉장 김백선의 군사 역시 호응하여 공격하지 않으니 여기서 기운을 얻은 적군은 군사를 양쪽으로 나누어 포위 태세를 취하며 공격하여 왔다. 당시 피아(彼我)의 병력형세는 모두 합세하여 싸워도 승부를 알 수 없을 터인데, 의병진의 일부 병력이 참전하지 않으니 그야말로 중과부적으로 전세는 의병진에 불리하게 되었다. 이 가흥 진격전에서의 실패는 전국(戰局)에도 적지 않은 영향을 주었을 뿐만 아니라 또 전체 의진을 약화하는 계기가 되었다. 즉 전세에 큰 영향을 주었던 선봉장 김백선 등 일부의 병력이 감소되고 군의 사기에도 큰 영향을 주는 결과를 가져온 것이다. 가흥 전투에서의 행동이 일치되지 않았던 것은 안승우가 증원군을 보내지 않은데 대한 불만과 유학자 간부들과의 대립, 신분간의 갈등 등에서 기인하였던 것으로 보인다. 일부 의진안에서 김백선을 질시하는 측의 이간행위, 그리고 그를 충동하여 아예 군사를 독립시키려는 움직임조차 보이게 되니 드디어 그가 의진을 전복하려 한다는 소문까지 생기게 되었다. 이로써 진중의 인심은 크게 설레게 되었다. 일이 이렇게 되고 보니 대장 유인석은 김백선을 소환하여 엄중문책하고 만일의 경우에는 군법에 회부하려고 작정하고 있었다. 그런데 오히려 회군한 김백선이 안승우에게 칼을 들고 대어드는 소동이 벌어지게 되자, 의암은 군의 기강을 세우기 위하여 김백선을 군율 위반으로 처형하는 사태로 발전하게 되었다. 김백선의 처형은 당시 군중에 미친 영향도 컸지만 의병사상 큰 논란의 대상이 되고 있다. 특히 「기려수필(騎驢隨筆)」에서는 다음과 같이 그 잘못을 지적하고 있다.

"적병이 앞에 있고 우리는 약하고 적은 강하니 비록 보통 군사라도 될 수 있는 대로 규합하여 세력을 확장하여야 할 터인데, 더구나 호걸스럽기 백선 같고 용맹하기 백선 같은 사람이랴. 그의 죄라는 것이 일시 분을 참지 못한 것뿐인데 개과천선하도록 할 것을 생각지 않고 어찌도 그렇게 아낌없이 죽이고 말 것이랴. 그중에는 반드시 곡절이 있을 것이니 병권(兵權)이 빼앗길 것을 시기함인가. 평민에게 욕본 것을 분하게 여겨서인가. 원래 의거라는 것은 적을 토벌하기 위해서이다. 가흥 싸움에 백선이 안승우에게 구원을 청하였는데, 안승우가 군사를 보내지 않아서 백선이 패배하고 의병들도 사기가 꺾이게 되었으니 그의 분노는 있을 수도 있는 일이다. 대의를 내세워 원수를 갚으려 하는 자가 적은 토벌하지 않고 먼저 장수를 죽여서 그 방패를 버리고 성을 무너뜨리니 제천의 패전이 당연한 것이 아닌가" 정부에서는 고인의 공훈을 기리어 1991년에 건국훈장 애국장(1968년 대통령표창)을 추서하였다.

• 기려수필 30·37·38면
• 독립운동사자료집(국가보훈처) 1권 18·43·181·380·396·398·538면
• 한국독립사(김승학) 하권 86면
• 독립운동사(국가보훈처) 1권 163·194·195·202·259·260·261·262면