1920년 1~2월 황해도 장연군(長淵郡)에서 최창한(崔昌翰) 등과 함께 암살단(暗殺團)을 조직해 친일 조선인 순사를 처단하고, 군자금을 모집하는 등의 활동을 하다 체포되어 옥고를 치렀다.

김병헌은 조선이 독립하려면 먼저 친일파를 모두 처단해야 한다는 생각을 평소 가지고 있었다. 1920년 1~2월에 최창한 등과 함께 세부 계획을 세우고 본격적인 활동에 들어갔다. 같은 장연군 출신인 최창한은 만주에서 조맹선(趙盟善)을 단장으로 한 대한독립단(大韓獨立團)의 단원으로서, 국내로 들어와 장연 지역을 중심으로 활동하고 있었다. 이들은 먼저 평소 술자리 등으로 친분이 있던 순사들 가운데 친일 순사들을 처단할 계획을 세우고 이를 실행에 옮기고자 하였다.

1921년 1월 28일부터 거사를 위하여 최창한ㆍ조정진(趙鼎鎭)과 함께 장연읍내에 있는 조정로(趙定魯)의 집에 잠복해 있었다. 다음날인 1월 29일, 1919년에 정치범으로 투옥되었다가 출옥한 뒤 다시 군자금 모집과 친일파 처단을 목적으로 장연읍내로 들어온 장규황(張奎煌)ㆍ장선봉(張仙鳳)을 만나 구체적인 방법을 협의하였다. 그 결과 이들은 그날 밤 읍내에 거주하는 백최한(白最憲)의 집으로 주연(酒宴)을 빙자하여 장연경찰서 형사순사 하동일(河東一)과 특무순사 강규영(姜奎永)을 불러서 서로 환담을 나눈 후 이들이 돌아가는 길에 총살하기로 결정하였다. 이렇게 암살단을 꾸리고 각자 세부적으로 역할을 분담하여 실행에 옮기려고 기다렸으나 순사들이 끝내 오지를 않아 일단 당일의 계획은 중단하였다.

이후 처단 계획을 다시 실행하고자 1921년 1월 31일 백최헌에게 상세히 계획을 설명한 후 여러 차례 비밀회의를 거듭하였다. 처단 대상인 순사 하동일과 강규영을 인도할 곳을 조만흥(趙萬興)의 집으로 변경하고 다시 순사들을 인도하려고 했으나 실패하였다. 결국 최창한이 하동일을 부근 한증막 앞으로 끌고 가서 권총을 발사하였으나 사망하지 않자 다음 날인 2월 1일 다시 계획을 실행하려 하였다. 하지만 읍내에 '하동일 살해 미수(未遂) 사건'에 대한 경찰의 수사가 심하여 탈출을 거듭하다가 장연경찰서에 체포되었다.

1921년 4월 26일 해주지방법원(海州地方法院)에서 이른바 1919년 제령(制令) 제7호 위반으로 징역 15년을 받고 이에 불복해 동지들과 함께 공소하였다. 같은 해 10월 19일 평양복심법원(平壤覆審法院)에서 징역 5년을 받고 평양형무소(平壤刑務所)에서 옥고를 치르다 1925년 2월 27일 출옥하였다. 정부는 고인의 공훈을 기려 2016년에 건국훈장 애국장을 추서하였다.

• 身分帳指紋原紙(警察廳)
• 判決文(高等法院 : 1921. 9. 12)
• 東亞日報(1921. 6. 12, 10. 3)