1915년에 여운형(呂運亨)을 만나 중국으로 망명할 것을 결심하였으며, 같은 해 가을 여운형(呂運亨)의 안내로 신의주(新義州)에서 일인학생을 가장하고 압록강 철교를 도보로 건너 상해에 있는 매부(妹夫) 신석우(申錫雨)를 찾아갔다. 그 곳 불조계(佛租界), 어양리(魚陽里)에서 혁명 지도자 신규식(申圭植)을 만났으며, 6개월간 항주(杭州)군관예비학교를 거쳐 운남강무당(雲南講武堂) 기병과(騎兵科)를 졸업하였다.

졸업 후 1919년 5월에 만주로 옮겨 신흥무관학교(新興武官學校) 교관으로 독립군 양성에 진력을 다하였다. 신흥무관학교는 1910년에 이동녕(李東寧), 이시영(李始榮) 등이 사재(私財)를 털어 만주(滿洲)로 망명하여 유하현(柳河縣) 삼원보추가가(三源堡鄒家街)에 신흥강습소(新興講習所)로 창설되었으며, 후에 통화현(通化縣) 합니하(哈泥河)로 위치를 이전하여 신흥중학교(新興中學校)로 개칭하고 군사교육과 중학정도의 교과목을 가르쳤다. 그러나 재정적인 어려움으로 근근히 학교를 운영하였다.

그 후 1919년에 일본 육군사관학교를 졸업한 이청천(李靑天)·김경천(金擎天)·신팔균(申八均) 등이 도래하게 되어 청년들에게 많은 감명을 주게 됨에 따라 입학 지원자가 급증하게 되었다. 이에 따라 1919년 5월 3일에 신흥무관학교로 개칭하고 정식으로 개교식을 하였으며, 교장에는 이시영(李始榮), 교성대장 이청천(李靑天), 교관으로 오광선(吳光鮮)·신팔균(申八均)·김경천(金擎天) 등과 함께 그가 임명되었다. 졸업증서 발행수도 1920년 8월까지 2천 호가 넘었으며 이 학교가 독립운동에 끼친 공로는 대단히 큰 것이었다.

1920년 3월 그는 북로군정서(北路軍政署) 총사령관 김좌진(金佐鎭)의 부름을 받고 수천 리를 도보로 강행군하여 왕청현(汪淸縣)에 있는 북로군정서(北路軍政署)로 가서 연성대장(硏成隊長)이 되어 활약하였다. 이 때 중국은 중일(中日) 외교상 부득이 독립군을 간섭하게 되니 길림성장(吉林省長)은 중국군 영장(營長), 맹부덕(孟富德)을 시켜 같은 해 8월 10일에 독립군 부대 및 항일 단체에 대하여 국도(國道)변에서 멀리 옮기라고 교섭함에 그들과 타협하여 앞으로 국내 진입전 전개에 편리한 장백산(長白山) 산속으로 이동하기로 하였다. 그리하여 8월 23일에 북로군정서(北路軍政署) 사관연성소(士官鍊成所) 학생 3백 수십 명을 졸업시키고 그 중 150명과 사령부 경비대원 및 새로 모집한 병사들로 보병 1개 대대를 편성하여 이동하던 중, 10월 5일에 화룡현(和龍縣) 삼도구(三道溝) 곧 청산리(靑山里)에 당도하였다. 이때 일본의 토벌군이 청산리 주위를 포위하여 오자 우리 독립군은 임시 전투조직을 편성하고 총사령관 김좌진(金佐鎭), 참모장 나중소(羅仲昭), 부관 박영희(朴英熙)로 편성되었으며, 그는 연성대장(硏成隊長)이 되어 본대인 보병 1개 대대를 인솔하고 백운평(白雲坪) 숲 속의 유리한 지형에서 대기하고 있었다. 그리하여 10월 20일 9시경에 청산리 백운평에서 일군과 교전이 시작되어 그날 저물도록 격전을 전개하고 일본군의 선봉부대를 섬멸시킨 뒤, 그 다음날부터 23일까지 천수동(泉水洞), 어랑촌(漁郞村), 만록구(萬鹿溝) 등으로 전지(戰地)를 옮기면서 일군의 주력부대를 강타하여 일본군 수천 명의 사상자를 내게 한 대전과를 올렸다.

1923년 5월에는 김규식(金奎植)·고 평(高平) 등과 함께 연길현(延吉縣) 명월구(明月溝)에서 고려혁명군(高麗革命軍)을 조직하여 수년간의 실전 체험에서 그보다 진보적인 이념과 방법으로 통일성 잃은 산만한 행동을 집중, 체계화하였으며 군사교육을 강화하였다. 이때 그는 기병사령(騎兵司令)이 되어 활약하였다. 그후 만주, 노령(露領) 등지를 전전하며 독립운동의 기회를 기다렸다.

1934년 낙양군관학교(洛陽軍官學校)내에 한국 독립군 양성을 위한 특별반이 설립되자 그는 총책임자 이청천(李靑天)의 수하에서 교육대장의 책임을 맡아 독립군간부 양성에 총력을 기울였다.

1940년 9월 17일에 한국 광복군 창립식이 거행되었으며, 이때 그는 참모장으로 임명되었다. 그러나 중국 정부와의 마찰과 경제적인 어려움 등으로 광복군은 창립 당시부터 난항을 겪게 되었다. 이에 따라 그는 광복군의 대표가 되어 중국의 정부, 국민당, 군사 당국자들을 만나 광복군 조직 확대를 위한 끊임없는 노력을 경주하였다.

1942년 4월에는 광복군 총사령부 부서의 재조정과 함께 각 지대의 통합 또는 재편성이 이루어지게 되어 제1지대, 제2지대, 제3지대로 개편되었다. 그 가운데 제2지대는 역사도 깊고 인원의 수적인 비중이 컸던 관계로 전체 광복군의 핵심부대라고 인정되었는데, 제5지대장 나월환(羅月煥)이 불의에 타계한 후 각지대 개편에 따라 사령부 참모장이었던 그가 지대장에 임명되었다. 그리하여 제2지대장으로 서안(西安)에 부임하여 광복을 맞이할 때까지 항일투쟁을 하다가 귀국하였다.

정부에서는 고인의 공훈을 기리기 위하여 1963년에 건국훈장 대통령장을 추서하였다.

• 사상정세시찰보고집 254면
• 조선민족운동연감 93·213·252면
• 한국독립사(김승학) 하권 225면
• 무장독립운동비사 53·79·80·86·105·106·196·205·207면
• 민족독립투쟁사사료(해외편) 73·156면
• 명치백년사총서(김정명) 제3권 251·383·508면
• 고등경찰요사 126면
• 일제침략하한국36년사 8권 414면
• 일제침략하한국36년사 12권 514면
• 일제침략하한국36년사 13권 93·266·858면
• 임시정부의정원문서(국회도서관) 776·780·832면
• 한국독립운동사(국사편찬위원회) 5권 66·84면
• 자료한국독립운동(추헌수) 1권 165·406면
• 자료한국독립운동(추헌수) 2권 82면
• 독립운동사(국가보훈처) 4권 946·1042면
• 독립운동사(국가보훈처) 6권 123·126·127·186·187·200·240·281·283·310·386·391·406·443·473·488·494·500·530·533·535·537·586·592·595·611·630·639·666·677면
• 독립운동사(국가보훈처) 9권 105면
• 독립운동사자료집(국가보훈처) 별집 2권 37면
• 독립운동사(국가보훈처) 8권 362·774·779·788·789면
• 국외용의조선인명부(총독부경무국) 298면
• 한국독립운동사(문일민) 256·310·312·313·314·322·348·356·357·358·372·374·378·380·436·463면
• 명치백년사총서(김정명) 제2권 522·555·571·577·585·968·971·972·973·975·976·977·978·1072·1078·1081·1082·1083면
• 한국민족운동사료(중국편)(국회도서관) 811·839·883면
• 한국독립운동사(국사편찬위원회)자료 3권 295면
• 자료한국독립운동(추헌수) 3권 224·385면
• 독립운동사(국가보훈처) 5권 180·294·364·365·366·374·384·386·387·388·389·390·391·642면