일제는 1907년 고종을 퇴위시키고 순종을 즉위시켰다. 또한 정미7조약을 강제로 체결하여 통감정치를 강화하는 등 한국 식민지화에 더욱 박차를 가하였다. 8월에는 대한제국 군대의 강제 해산으로 군인들이 의병에 참여하면서 항일의병운동이 더욱 거세게 일어났다.

김상진은 1908년 음력 2월 말 경 청하군 죽장면(竹長面) 두마동(斗麻洞)으로 가던 도중에, 수 명의 의병을 만나 의병부대에 참여하라는 권유를 받고 이에 가입하여 두마동에서 60명의 의병과 합세하였다. 이후 청송군 외평계(外坪界) 및 인근에서 총기·금전·음식물·초혜(草鞋) 등의 군자금·군수품을 모집하였다. 3월 중에는 단덕삼(段德三) 외 수 명과 함께 흥해군 관동(舘洞)에 사는 황관평(黃官平)에게서 군자금을 모집하고자 하였으나 목적을 달성하지 못하였다.

1908년 10월 9일 대구지방재판소(大邱地方裁判所)에서 이른바 ‘강도죄·살인죄’로 종신징역을 받고 옥고를 치르던 중, 1912년 12월 24일 칙령(勅令) 제23호에 의해 징역 12년으로 감형되었고, 1914년 칙령 제104호에 의거하여 징역 9년, 1915년 칙령 제205호에 의거하여 징역 8년 13일로 감형되어 옥고를 치렀다.

정부는 2018년에 건국훈장 애국장을 추서하였다.

• 판결문(判決文)(대구지방재판소：1908. 10. 9)
• 형사사건부(刑事事件簿)
• 독립운동사자료집(독립운동사편찬위원회, 1974) 별집 제1집 460~463면