1850년 11월 10일 경상북도 김산군(金山郡) 군내면(郡內面) 마좌산리(馬佐山里, 현 김천시 지좌동)에서 아버지 서철순(徐哲淳)과 어머니 김해김씨(金海金氏) 김아가다 사이에서 2남 중 장남으로 태어났다. 본관은 달성(達成)이며 이명으로는 한자가 다른 서상돈(徐相燉)이 있다. 세례명은 아우구시티노이다.1868년 당시 대구천주교 원로회장 서용서(徐用瑞) 등 천주교 신자들의 도움으로 보부상을 시작하였다. 낙동강 배편을 이용하여 쌀, 소금, 창호지, 기름 등을 팔았다. 1871년 대구로 돌아온 뒤 독학을 하면서 지물(紙物) 행상과 포목상을 시작하였다. 1886년 대구의 상당한 부호로 부상하였으며, 1894년 정부의 특명으로 탁지부 세무시찰관(일명 봉세관)에 임명되어 1903년까지 경상도의 세정을 총괄하였다. 이때부터 대구교회 로베르(Robert, A. J., 金保祿) 신부를 중심으로 교회 발전에 힘썼다. 세무시찰관에서 퇴임한 뒤 실업계의 중진으로 대구의 경제권을 좌우할 만큼 갑부 대열에 들었다. 그 뒤 천주교 대구교구(大邱敎區)가 설립되자 교구 발전에 힘쓰면서 성직자 돕기와 수녀 보호에 솔선수범하였다.1896년 독립협회(獨立協會)에 가입하였고, 1898년 3월부터 전개된 만민공동회(萬民共同會)에 독립협회 재무 담당 간부로 참가하여 러시아의 내정간섭을 규탄하고 내정문제로 민권 보장, 참정권 획득 운동을 전개하였다. 그러나 같은 해 12월에 독립협회가 수구파에 의해 해산되자, 고향인 대구로 내려왔다.일제 강점이 가시화되기 시작한 1905년에는 이일우(李一雨)를 도와 대구 달서여학교(達西女學校, 현 복명초등학교) 설립을 적극 지원하였고 여성교육에 기여하였다. 1906년 신문 보급과 계몽도서, 각종 신학문의 교양서적 등을 발간하는 애국계몽단체인 대구광문사(大邱廣文社)를 설립하고 부사장을 맡았다. 사장은 김광제(金光濟)가 역임하였다. 광문사 내에 경북지역 유지 400~500명의 회원을 가진 문회(文會)를 만들고 이를 통해 경상지역에 신교육운동을 전개하였다. 그리하여 이후 협성학교(協成學校, 현 경북고등학교 전신)·수창학교(壽昌學校, 현 수창초등학교)·사범학교(師範學校) 설립에 크게 기여하였다.같은 해 8월 일제 통감부(統監府)가 설치한 이사청(理事廳)에 맞서 광문사 회원들과 함께 대구민의소(大邱民議所, 현 대구상공회의소 전신)라는 자치단체를 만들어 부소장에 취임하였다. 대구민의소 소장은 김광제가 맡았다. 또한 김병순(金炳淳)·서병오(徐丙五)·이석진(李錫珍)·이병학(李炳學) 등과 함께 대구농공은행(大邱農工銀行, 현 한국산업은행 전신)을 설립하여 대구와 경북지역의 경제권 수호운동을 전개하였다. 대구농공은행 설립에 참여한 주주 대부분은 대구지역 국채보상운동(國債補償運動)의 중심인물로 참여하였다. 초대 대구농공은행장은 이석진이었고 대구 본사 외에 경북 상주(尙州)에도 지점을 두고 운영하였다.1907년 1월 29일 대구광문사 문회의 명칭을 대동광문회(大東光文會)로 바꾸는 특별회에서 3개월 동안 담배를 끊어 일본의 국채 1,300만원을 갚자는 국채보상운동(國債報償運動)을 발의하였다. 그 자리에서 국채보상운동에 앞장서겠다며 800원의 의연금을 냈다. 이에 참석한 회원들은 만장일치로 찬성하였다. 이어 김광제가 발기 연설을 마친 후 당장 실시할 것을 주장하고 자신의 연죽(煙竹)과 연갑을 버리고 3개월치 담배값 60전과 의연금으로 10원을 내었다. 그러자 모두 동참하여 그 자리에서 2,000여 원이 모금되었다. 이 특별회에서 대동광문회 회장은 박해령(朴海齡), 부회장에는 김광제가 선출되었다.그 해 2월 초순 국채보상운동을 발기하여 대구광문사 사장 김광제와 함께 대동광문회 회장 박해령, 회원 서병오·김윤란(金允蘭)·장상철(張相轍)·강영주(姜永周)·서정섭(徐廷燮)·김우근(金遇根)·윤하선(尹夏璿)·정재덕(鄭在悳)·이종정(李鍾楨)·길영수(吉永洙)·이우열(李遇烈)·강신규(姜信圭)·정규옥(鄭圭鈺)·천교정(千敎廷) 등의 이름으로 「국채보상취지서(國債報償趣旨書)」를 작성하여 반포하고 전국에 발송하였다.대동광문회는 1907년 2월 21일 대구 북후정(北後亭, 현 대구광역시 중구 시장북로 인근)에서 국채보상금 모금을 위한 군민대회(郡民大會)를 개최하였다. 같은 날 대구광문사 사장 김광제와 공동명의로 「국채보상운동취지서」를 발표하였다. 아울러 「국채일천삼백만원보상취지(國債一千三百萬圓報償趣旨)」라는 글을 『대한매일신보(大韓每日申報)』에 싣고 본격적인 모금운동을 전개하였다. 전 국민이 3개월 동안 담배를 끊어 일본의 국채 1,300만원을 갚자는 대구지역 국채보상운동이 『대한매일신보』·『황성신문(皇城新聞)』·『제국신문(帝國新聞)』·『만세보(萬歲報)』등 언론을 통해 보도되자 전 국민이 이에 호응하였다.특히 신채호(申采浩)·박은식(朴殷植)·양기탁(梁起鐸) 등 언론인들이 논설을 통해 국채보상을 위한 전 국민적인 참여를 호소하였다. 이로 인해 국채보상운동은 전국적인 범국민운동으로 확산되어 전국 각지에 수많은 단연회(斷煙會)가 조직되어 활동하였다. 1907년 3월 9일 대구국채담보회(大丘國債擔保會)를 설립하고 김병순과 함께 재무위원에 선출되어 대구지역의 국채보상 의연금을 총괄하였다. 또한 국채보상운동을 좀더 체계적으로 전개하기 위해 경북국채보상도총회(慶北國債報償道總會)를 설립하여 총무장에 선출되기도 하였다.1908년 대구의 성당이 화재로 소실되고 한문서당인 해성재(海星齋)가 피해를 입자 로베르 신부·이근우(李根雨)·김찬수(金燦洙) 등과 함께 학교설립발기회에 참여하여 같은 해 4월 1일 성립학교(聖立學校, 현 효성초등학교)를 개교시키고 학교 발전에 기여하였다. 이후 성립학교는 1910년 여자부를 야간에 개설하여 성립여학교를 부설하기도 하였다. 성립여학교는 신명여자소학교(信明女子小學校, 대남남자소학교와 함께 대구 종로초등학교의 전신)와 신명학교(信明學校, 현 신명고등학교)와 함께 일제강점기 대구지역 근대 여성교육을 이끈 3대 교육기관 중 하나가 되었다.대한민국 정부는 1999년 건국훈장 애족장을 추서하였다.