원명은 서상겸이고 자는 자경이다. 산서성 오대현사람.

황포군관학교 제1기졸업생이다. 국민군 제2군 제6혼성려(混成旅)에서 교도영 교관, 참모, 부퇀장직을 맡았었다.

1927년 무한중앙군사정치학교에서 대장으로 임명됐고 같은해 중국공산당에 가입했다. 광주봉기에서 로동자적위대 제16련 대장직을 맡았다.

토지혁명전쟁시기, 공농혁명군 제4사 제10퇀 당대표, 사 참모장, 사장, 중국공농홍군 제31사 부사장, 홍1군부 군장 겸 제1사 사장, 홍4군 참모장 겸 군장, 홍4방면군 총지휘, 홍군우로군 총지휘, 서로군군정위원회 부주석으로 있었다. 2만 5천리 장정에 참가했다.

항일전쟁시기 8로군 129사 부사장, 8로군 제1종대 사령원, 섬감녕진수(陝甘寧晋綏)련방군 부사령원 겸 참모장, 중국인민항일군정대학 교장대리로 있었다.

해방전쟁시기, 진기로예군구 부사령원, 화북군구 부사령원 겸 제1병퇀(후에 제18병퇀으로 고침) 사령원 겸 정치위원으로 있었다.

중화인민공화국 성립후 중국인민해방군 총참모장, 인민혁명군사위원회 부주석, 중앙군위 부주석, 중화인민공화국국무원 부총리 겸 국방부 부장을 련임했다.

1955년 원수계급을 수여받았다.

제1, 2, 3기 국방위원회 부주석, 제3, 4기 전국인민대표대회 상무위원회 부위원장, 중공 제7기 중앙위원, 제8기 중앙정치국 위원, 제9, 10기 중앙위원, 제11, 12기 중앙정치국 위원으로 당선되였다.