전북 무장(茂長) 사람이다. 이대국(李大局, 이명 太局) 의진에 가담하여 전북 무장·영광(靈光) 일대에서 활약하였다. 1907년 7월 일제는 「정미7조약(丁未7條約)」을 체결하여 대한제국의 군대를 강제로 해산시키는 등 식민지화를 향한 발걸음에 박차를 가하였다. 이에 분격하여 이후 전국적으로 수많은 의병이 봉기하여 일본군을 공격하거나 일진회원을 비롯한 친일주구배를 처단하는 등의 활동을 통하여 무너져가는 국권을 회복코자 노력하였다. 김상묵은 이같은 시기에 이대국 의진에 투신하여 의병활동을 전개하였다. 그리하여 그는 의병활동 자금을 확보하기 위한 비상 수단으로 1908년 12월 10일 동지 20여 명과 함께 총을 휴대하고 전북 무장군 장자산면(莊子山面) 해룡리(亥龍里)에서 친일 이장 강춘일(姜春鎰)로부터 군수품을 징발하였다. 그리고 같은 달 20일경에도 그는 동지 50명과 총 40정으로 무장하고 전남 영광군(靈光郡) 홍농면(弘農面) 풍암리(豊岩里)에서 군수용품을 조달하였다. 1909년 1월 10일 그는 다시 동지 50여 명과 함께 총으로 무장하고 홍농면 월평리(月坪里)에서 군용물자를 거두는 등 주로 군수품 수합활동에 주력하였다. 그러다가 붙잡혀 1909년 12월 1일 광주지방법원 전주지부에서 징역 10년을 받아 옥고를 치렀다.

정부에서는 고인의 공훈을 기리어 1995년에 건국훈장 애국장을 추서하였다.

• 독립운동사자료집(국가보훈처) 별집 제1집 758·759면