함남 단천(端川) 사람이다.

전주익(全周益) 의진에 가담하여 함남 단천·갑산군(甲山) 일대에서 활약하였다.

1907년 7월 일제는 「정미7조약(丁未7條約)」을 체결하여 대한제국의 군대를 강제로 해산시키는 등 식민지화를 향한 발걸음에 박차를 가하였다. 이에 분격하여 당시 전국적으로 수많은 의병이 봉기하여 일본군을 공격하거나 일진회원(一進會員)을 비롯한 친일주구배를 처단하는 등의 활동을 통하여 무너져가는 국권을 회복코자 노력하였다.

김태산은 일찍이 전국 각지에서 매국배족 행위를 일삼던 일진회원들을 처단하고자 결심하던 중, 1908년 1월 18일 밤 단천군 고성리(古城里) 만덕장(滿德庄) 이민(里民)들이 붙잡아 온 상부동(上釜洞)에서 사는 김영덕(金永德)이 일진회원이며 또한 머리를 깎았음에 분격하여 총을 쏘아 사살하였다. 같은 달 19일 이민들이 가산동(加山洞) 거주 친일 일진회원 정명학(鄭明學)을 잡아오자 그 역시 처단하였다. 그리고 그는 같은 해 음력 1월 25일 전주익 의진에 들어가 활동하였다. 그리하여 그는 동지 수십 명과 함께 총기를 휴대하고 전주익 의병장의 지휘 아래 단천군 영하사(永下社)와 갑산군 하남사(下南社), 상남사(上南社) 등 여러 곳을 무대로 의병활동을 전개하였다. 그러다가 붙잡혀 1909년 1월 20일 함흥지방재판소에서 교수형을 받고 공소하였으나, 3월 19일 경성공소원에서 기각, 형이 확정되어 순국하였다.

정부에서는 고인의 공훈을 기리어 1995년에 건국훈장 애국장을 추서하였다.

• 독립운동사자료집(국가보훈처) 별집 제1집 309면