1927년 1월경 중국에서 정의부(正義府)의 미상(未詳) 지방 검무감(檢務監)으로 활동하다 체포되어 옥고를 치렀다.

정의부는 1924년 11월 24일 중국 화전현(樺甸縣)에서 설립된 독립운동 단체이다. 입법ㆍ사법ㆍ행정의 3권 분립 체제를 갖춘 중앙조직을 설치하고, 하얼빈 이남 40여 개의 현(縣)에 거주하는 한인을 기반으로 자치행정을 실시하는 한편, 의용군을 편성하여 항일무장투쟁을 전개하였다. 중앙행정위원회 위원장은 이탁(李鐸), 중앙행정위원은 현정경(玄正卿)ㆍ지청천(池靑天)ㆍ이진산(李振山)ㆍ오동진(吳東振)ㆍ김동삼(金東三) 등이었다. 정의부는 효율적으로 한인사회를 운영하고 지원하기 위해 관할 각 지역에 지방조직을 설치하였다. 즉 한인 가구 1,000호를 한 단위로 묶어 총관구(總管區)를 설치하고, 그 밑에 500호로 지방, 100호로 백가장, 50호로 구, 10호로 십가장을 설치하였다. 이들 각 지방 조직에도 입법ㆍ사법ㆍ행정 업무를 할 수 있도록 지방행정위원회나 사판소(事判所) 등을 설치하였다.

김효섭은 정의부 검무감으로 활동하다 1927년 1월 2일 체포되어 2월 19일 철령영사관(鐵嶺領事館)으로 이송되었다. 같은 해 4월 4일 신의주지방법원에서 이른바 제령(制令) 제7호 위반으로 징역 2년을 받고, 신의주형무소에서 옥고를 치렀다.

정부는 고인의 공훈을 기려 2015년에 건국훈장 애족장을 추서하였다.

• 身分帳指紋原紙(警察廳)
• 在支滿本邦警察統計及管內狀況報告雜纂 제10권
• 독립운동사자료집(독립운동사편찬위원회, 1976) 제10집 543면