1868년 7월 5일 경기도 수원군(水原郡) 구포리(鳩浦里, 지금의 화성시)에 있는 외조부 조희필의 집에서 아버지 김창희(金昌熙, 1844~1890)와 어머니 풍양 조씨(豊壤 趙氏, 1844~1873)의 4남 3녀 중 장남으로 태어났다. 본관은 경주(慶州)이며, 자는 백유(伯猷), 호는 무원(茂園), 당호는 보화(普和), 교명(敎名)은 헌(獻)이다. 6세 때 생모가 사망하여 계모 한산 이씨(韓山 李氏) 슬하에서 자랐다. 28세 때인 1895년 부인 양주 조씨(楊州 趙氏)와 사별하고 전주 이씨(全州 李氏)와 재혼하였으며, 2남(正琪·正瑾)과 3녀를 두었다. 물려받은 서울 박동(礴洞) 대저택에서 성장하였으나 1906년 보성전문학교에 매각하였다. 이는 1931년 불교계 명성여자실업학원을 거쳐 조계사에서 인수하여 현재에 이른다. 매각 이후 서울 대안동(大安洞)·소격동(昭格洞)·삼청동(三淸洞) 등지에서 살았다. 대안동에서 가숙인 삼괴당(三槐堂)을 부활시켜 자신의 자제와 인근 자제들을 대상으로 신학문을 가르쳤고, 대종교(大倧敎) 입교 후 자택을 대종교 본사로 제공하였다. 동생 김교준(金敎準)은 30여 명의 동지와 함께 국내 대종교 비밀결사를 조직하였고, 아들 김정기는 북간도 룽징에서 1922년 『동아일보』 간도지국장을 지내고 1923년 3월 룽징에 사회주의 계열인 동양학원을 설립하였다가 7월에 검거·투옥되었다. 그의 나이 18세 되던 1885년 정시 문과에 급제한 뒤 권지승문원부정자(權知承文院副正字), 규장각 직각(奎章閣直閣), 예조 참의, 성균관 대사성, 외부 참서관, 고등재판소 판사, 중추원의관 등을 역임하며 순탄한 관직 생활을 하였다. 1898년 11월 14일 만민공동회 운동에도 가담하였다. 1898년, 임오군란 때 청나라 영접관을 지냈던 부친 김창희의 문집 『석릉집(石菱集)』을 간행하였고, 1900년 조부 김정집(金鼎集)의 문집 『석세유고(石世遺稿)』를 간행하였다. 1903년 문헌비고(文獻備考) 찬집위원(纂集委員)을 맡았고, 1905년 2월 옥구감리 겸 옥구항재판소 판사, 1906년 9월 동래감리 겸 부산항재판소 판사, 동래부윤에 임명되었다. 1907년 1월 5일 최익현(崔益鉉)의 유해가 부산항에 당도하자 동래부윤으로서 조문하였다. 그해 10월 참서관 최덕(崔悳)과 갈등하고 목장지계권(牧塲地契券) 사건의 책임자로서 1908년 1월 17일자로 해임되었다가, 이듬해 9월에서야 징계를 면하였다. 1908년에 애국 계몽 단체인 기호흥학회(畿湖興學會)에 가입하여 찬무원(贊務員)으로 활동한 이력이 확인된다. 이해 9월에 국조보감(國朝寶鑑) 찬집위원, 12월에 국조보감 선사위원(繕寫委員), 1909년 2월에 국조보감 감인위원(監印委員), 4월 규장각 부제학에 임명되었고, 1910년 8월 종2품으로 올랐다. 1909년 (음)1월 15일 대종교가 중광(重光)하여, 을사늑약 후 고양되던 국조 단군 사상을 한민족 통합의 구심점으로 하자는 종교운동이 전개되었다. 이에 1910년 1월 대종교에 입교하였고, (음)9월 19일 특선으로 참교(參敎)의 교직에 올랐다. (음)10월 3일 개천절 경하식에서 예원(禮員)으로서 원도(願禱)를 올렸다. (음)12월 6일에 신규식(申圭植)·유근(柳瑾)·조완구(趙琬九)와 함께 규제기초위원에 임명되었다. 1910년 10월 최남선(崔南善)이 설립한 조선광문회(朝鮮光文會)에 입회하여 유근·박은식(朴殷植) 등과 함께 고전 간행 사업의 고문 역할을 하였다. 1911년 대종교단 내에서 유근과 함께 ‘단군의 사적을 살핀다’는 의미의 단군 기록 모음집인 『단조사고(檀祖事攷)』 편찬을 주도하였다. 그간 ‘대종교협제회’ 편저로 알려져 있었는데, 1914년에 촬영된 ‘대종교협제단부(大倧敎協濟團部)’ 사진을 통해 공식 명칭인 ‘대종교협제단부’의 존재가 확인되었다. 당시 촬영한 사진에는 김교헌을 중심으로 오기호(吳基鎬)·조완구·김두봉(金枓奉) 등 핵심 인사들이 보인다. 1912년 출간된 대종교 주요 경전인 『삼일신고(三一神誥)』의 편수 겸 발행인으로 활동하였다. 1914년에 『신단실기(神檀實記)』를 출판하였다. 교단 내에서 총본사 부전무(1911), 경리부장, 도사교 위리(委理), 남도본사 전리(1914), 총본사 전강(1916) 등 종무 행정의 요직을 지내다가, 1916년 4월 13일 최전(崔虞)·서일(徐一)과 함께 도사교(都司敎)의 자격이 되는 천궁영선식(天宮靈選式)에 올라 최종 교통 전수자가 되었다. 8월 15일에 조천한 나철(羅喆)의 유명을 받들어 9월 1일 제2대 도사교(교주)에 취임하였다. 1917년 만주로 건너가 (음)3월 15일 허룽현(和龍縣) 삼도구 소재 총본사에서 제1회 교의회를 소집하였다. 나철이 제정한 홍범17조항을 23조항으로 개정하고, 직제와 교인들의 준수해야 할 규약 등 58개 조항을 67조 규제로 개정 발포하여 현실적인 교규를 확립하였다. 다시 2년간 서일이 있는 대종교 동도본사(왕칭현 소재)로 거처를 옮겼고, 그곳에서 교단 총회를 소집하기도 하였다. 1919년 2월에 무장 항일 투쟁 선언서인 「대한독립선언서」에 연서하여 본격적인 구국항쟁에 진력하였다. 북로군정서 인사국장을 지냈던 정신(鄭信)은 1924년 1월 13일 중국 상하이(上海) 대종교 서2도본사에서 열린 ‘김교헌 추도회’에서 “나는 이 어른을 종교가나 문학가나 만으로 보지 않고 큰 군사가(軍事家)로도 보는데, 이는 북간도에서 우리가 군사행동을 할 때에 이 어른이 미리 말하신 것이 수차 있는데 그 뒤에 모두 이 어른의 말대로 되었다”라고 추모하였다. 1919년 3월 24일 지린성(吉林省) 안투현(安圖縣)에서 대종교인들과 함께 3·1운동에 참여하였으며, 자신의 집을 방문한 교인 및 학생 50여 명과 함께 독립운동 대책을 논의하기도 하였다. 같은 해 여름 서일에게 도사교의 교통(敎統)을 전수하고자 동의를 요청하였으나, 5년간 유예하겠다는 답변을 받았다. 8월 13일 손일민(孫逸民)과 함께 왕칭현(汪淸縣) 나자구(羅子溝) 삼도하자에 가서 주민들에게 “한국의 독립은 우리들의 열성과 결단으로 실행해야 한다”라고 선전하였다. 1920년대 만주 지역에서 전개된 일제의 만행으로 독립운동 및 교단 기반이 크게 붕괴되었다. 그럼에도 불구하고 1922년 총본사를 닝안현(寧安縣) 영고탑(寧古塔)으로 옮기고 교세 확장을 통한 독립운동의 강화를 꾀하는 한편, 동포들의 민족정신 교육에 전념하고자 하였다. 이해부터 북로군정서 재건에 앞장서자 군정서 출신자들이 닝안현, 어무현(額穆縣), 둔화현(敦化縣) 등지에서 대종교 시교당 확장과 학교 설립에 적극적으로 협조하였다. 이러한 노력의 결실은 사후 1925년 3월의 신민부 조직으로 이어졌다. 1922년 2월 14일, 교단 내 기강 확립과 교인들의 신앙심을 독실하게 하기 위하여 「5계명」을 발표하여 지키게 하였다. “종교와 정치가 현격하게 달라 정계에서 경거와 망언을 금하고, 사회주의와 과격한 언동은 대종교의 주창 선전할 바가 아닌 즉 절대 금하여 심하면 출교하겠다”라는 두 조항은 정교분리를 표면상 내세워 일제와 중국의 감시를 피하고, 계급보다 민족을 중시하는 입장에서 사회주의 반대 의사를 표명한 것이다. 교단 중흥을 위하여 규제 개정에 수반한 설당(設堂) 업무와 교직자의 임명을 속행하여 1923년 가을에 이르러 동서남북의 4도 본사를 위시하여 10개 지사와 80여 곳의 시교당, 400여 명의 교직자, 50여 명의 순교원 및 시교원을 임명·배치하였다. 또한, 영재 육성과 청년운동에도 심혈을 기울였다. 서울에서는 1922년 2월에 남1도본사 내에 음악강습소를 신설하고 여성 신도 50명에게 대종교 신가(神歌)를 강습·보급케 하였다. 러시아 블라디보스토크에서는 3월 동촌 동흥학교 내에 여자 야학부를 설치하고 문맹퇴치운동을 전개하였다. 3월 6일에는 대종교 발전과 교우 친목 및 문화 보급을 목적으로 15세 이상 40세 이하의 남녀 청소년을 모집하여 ‘해항청년회’를 조직케 하였다. 옌지현(延吉縣) 용정촌에서는 3월 15일에 덕(德)·지(智)·체(體)를 발육하고 각지에 지회를 설치하여 청년계의 연락을 도모할 목적으로 ‘용정청년회’를 조직케 하였다. 1923년 6월에 동1도본사(옌지현 소재)에서 교리강수회를 개최하여 국사와 교리를 교육하여 민족의식 고취에 노력하였다. 동년 10월부터 2개월간에 걸쳐 동2도본사(닝안현 소재) 강실에서 경전 및 역사 강습회를 개최하여 민족사와 교리를 가르쳤다. 북간도의 어려운 여건 속에서도 민족사서 출판을 지속하여 우선 1922년 5월 5일에 통사 체계의 구성을 목적으로 한 민족사서 『신단민사(神檀民史)』를 등사로 펴냈다. 『신단민사』는 “단군 신교 문화 속에서 생활한 우리 민족의 역사”란 뜻이다. 이를 통해 한민족의 범위를 혈통적으로 ‘신단민족’이라는 단일 민족으로 체계화하고, 대륙으로 인식을 넓혀 요·금·청나라까지 우리 민족사의 범주에 포함하는 역사관을 정립하였다. 6월 5일에 초대 도사교 홍암 나철의 조천 과정과 허룽현 청호에 봉장되기까지의 기록을 담은 『홍암신형조천기(弘巖神兄朝天記)』를 등사로 펴냈다. 같은 해에 『신단민사』의 내용을 간결하게 추려 교과서용으로 편집한 『배달족역사』를 간행하였다. 1923년 1월 15일에 대종교 경전인 『종경(倧經)』을 상하이 서2도본사에서 인쇄하게 하였다. 같은 해 9월 20일 서2도본사에서 『신단민사』 활자본을 김승학(金承學)이 편수 겸 발행자로서 펴냈다. 『신단민사』 활자본은 김교헌의 마지막 저술이었다. 『신단민사』는 그해 11월 간도의 각 중학교에서 새 역사 교과서로 채택되었고, 정신은 지린성 왕칭현에 있는 부인 이함(李涵)에게 『신단민사』 130부를 보냈다. 이에 일제는 11월 1일 무장 경찰을 파견하여 가택을 급습하여 전권을 압수하는 등 『신단민사』를 불온서적으로 규정하였다. 1923년 (음)1월 15일에 밀산현(密山縣) 대일시교당에서 중광절 경하식을 봉행하고, 대흥동에 있는 서일 묘소에 원방각(圓方角) 목책을 건립하고 제전(祭田)을 구입하여 향사비에 충당케하였다. 같은 해 12월 25일 오전 1시 45분 지린성 닝안현 영고탑 대종교 총본사 수도실에서 56세의 나이로 병사하였다. 1924년 1월에 닝안현 황기둔에서 화장식 거행 후 허룽현 청호에 유해를 봉장하였고, 3월에 종사철형(宗師哲兄) 호(號)로 추숭되었다. 묘소는 중국 허룽시 청호촌 언덕 삼종사 묘역 중앙에 위치한 나철의 오른편에 안장되어 있다. 현재 중국에서는 화룡시문화유물보호단위 ‘반일지사무덤’으로 지칭하여 관리하고 있다. 저술로는 『단조사고』(공편, 1911), 『신단실기』(1914), 『신단민사』(1922), 『홍암신형조천기』(1922), 『배달족역사』(1922)가 전한다. 『단조사고』는 내편과 외편으로 구성되었으며, 「내편」은 신인이 태백산 단목 아래로 내려온 상원갑자년(기원전 2357년)부터 단군이 어천(御天)한 경자년까지 217년간의 사적을 19개 항목으로 고증 기술한 것이고, 「외편」은 역대 왕조에 내려오면서 단군을 숭상한 사적과 단군 관련 유속을 고증·집대성한 것이다. 『신단실기』는 「단군세기」, 「삼신상제」, 「교화원류」, 「신이징험」, 「단사전묘」, 「역대제천」, 「족통원류」, 「시가악장」, 「고속습유」 등으로 구성되었으며, 내용은 한민족의 역사 계보, 삼신에 관한 문헌 기록, 단군에 대한 옛 기록과 전설, 만주와 한반도의 단군 사당 및 역대 제천의례, 시가악장 등으로 천손(天孫) 사상에서 비롯된 한민족의 긍지와 민족혼이 뿌리박힌 민족의식을 함양토록 하는 취지에서 편수한 민족사서(民族史書)였다. 『단조사고』에서 단군의 역사, 『신단실기』에서 단군시대부터 금나라까지의 역사를 요약해 다루었다면, 『신단민사』와 『배달족역사』에서 조선과 청나라까지 우리 역사의 범위를 확장시켰다. 『배달족역사』 제42과 「한·청의 역년」편에서 일제의 강점 및 청나라가 망한 신해혁명에 대해 “배달민족의 국명·군호(君號)가 남북강역에 다 끊김은 단군 이후로 초유한 대변고(大變)”라 하고 끝맺음하였다. 대한민국 정부는 1977년 건국훈장 독립장을 추서하였다.