전남 장성(長城) 사람이다. 박준학(朴俊學) 의진에 가담하여 전남 창평(昌平) 일대에서 활약하였다. 러일전쟁 직후 일제의 강요와 위협 아래 1905년 11월 체결된 「을사륵약(乙巳勒約)」은 우리 민족에게 국망의 위기를 절감하게 하였다. 국권강탈 행위인 을사륵약은 일제가 그간 은폐해 왔던 한국 식민지화 야욕을 노골적으로 드러낸 것이었다. 이렇게 되자 우리 민족은 본격적인 반일 국권회복운동을 전개하였다. 당시 그것은 크게 두 방향에서 진행되었다. 하나는 장기적인 실력양성운동으로 언론활동·종교활동·교육활동·학술활동 등을 통한 국민 계몽운동이었고, 다른 하나는 즉각적인 무력투쟁인 의병운동이었다. 특히 의병운동은 1907년 7월 「정미7조약(丁未7條約)」에 따른 군대해산으로 해산군인들이 대거 의병대열에 참여함으로써 전국적인 국민전쟁으로 확대되고 있었다. 김순오는 이같은 시기에 박준학 의진에 투신하여 의병활동을 시작하였다. 그리하여 그는 박준학의 의진에서 군자금품을 수합하면서 항일 무장투쟁을 전개하였다. 그러다가 1908년 음력 4월 16일 박준학 의병장의 지휘 아래 김재구(金在球) 등 동료 의병 6명과 함께 군자금품을 모집하기 위해 전남 창평군 내면(內面) 지곡(芝谷)에 거주하는 정도사(鄭都事)의 집으로 가던 중 일경에 붙잡혔다. 이로 인해 광주지방재판소에서 징역 5년을 받고 공소하였으나, 1908년 12월 22일 대구공소원에서 기각, 형이 확정되어 옥고를 치렀다.

정부에서는 고인의 공훈을 기리어 1995년에 건국훈장 애족장을 추서하였다.

• 독립운동사자료집(국가보훈처) 별집 제1집 574·575면