김의엽은 재만 독립군단인 참의부(參議府) 대원으로 국내에 진입하여 충북 단양에서 군자금을 모금하였다.

1924년 초 성립된 참의부는 남만주 압록강 변의 집안현(輯安縣)과 그 주변지역을 근거로 활동을 펼친 단체였다. 원래 대한통의부(大韓統義府)의 구성원이었던 채찬(蔡燦)·박응백(朴應伯) 등은 1923년 말 상해의 대한민국임시정부를 방문했다. 그들은 임정의 요인들과 협의한 뒤 통의부의 일부 부대를 분리시켜 임정 직속의 군부대를 설립할 것을 결정하였다. 그리하여 남만주로 돌아 온 뒤 통의부 의용군 제1·2·3·5중대와 유격대 및 독립소대를 분리해 대한민국임시정부 육군주만참의부(陸軍駐滿參議府)를 성립시켰다.

이 같이 성립된 참의부는 한인사회를 이끄는 자치활동도 시행했지만 항일무장투쟁에 역점을 두고 활동하였다. 따라서 근거지와 접해있는 압록강 너머로 많은 국내진입 유격대를 파견하였다. 김의엽도 그 같은 참의부 지도부의 방침에 따라 1927년 유격대의 일원이 되어 충북 단양까지 진입하였다. 유격대는 단양의 소백산 밀림지대에 근거지를 구축하였다. 그리고 김용재(金用才) 등 동지 10명과 함께 단양군 영춘면 일대를 다니며 군자금을 모금하였다. 다수에 걸친 이들의 활동은 결국 일제의 주목을 받다가 좁혀오는 일경찰대에 포착되어 1927년 12월 붙잡히고 말았다.

김의엽은 공주지방법원에서 1928년 3월 16일 강도미수죄로 징역 5년을 선고받고 3년 2개월여의 옥고를 겪다가 1931년 5월 27일 가출옥하였다.

정부는 고인의 공훈을 기려 2009년에 건국훈장 애족장을 추서하였다.

• 執行指揮書(1928. 3. 16)
• 假出所執行濟의 件 報告(1931. 5. 21)
• 中外日報(1928. 3. 18, 10. 20)