1979年6月，中央軍委決定調(diào)整三總部、各大軍區(qū)、各大單位領(lǐng)導班子。由于鄧小平是中共中央副主席、中央軍委副主席、國務(wù)院副總理，還兼任著總參謀長，事情太多，總參的工作實在顧不過來。因此中央決定，鄧小平不再兼任總參謀長，并在此次軍隊領(lǐng)導干部調(diào)整中統(tǒng)籌考慮總參謀長接替人選。

對于此次調(diào)整三總部、各大軍區(qū)、各大單位領(lǐng)導班子，中央明確由軍委副主席聶榮臻負責牽頭。在醞釀總參謀長接替人選時，聶榮臻對前代總長楊成武的情況很了解和熟悉。當時的楊成武65歲，離京任副總參謀長兼福州軍區(qū)司令員已逾兩年。在那時軍隊高級干部年齡都比較老化的情況下，聶榮臻認為楊成武年齡不算大，身體還比較好，并有長期在總參謀部做領(lǐng)導工作的經(jīng)驗，比較熟悉軍隊的情況。因此他認為楊成武重回總參謀部工作比較合適。為此，聶榮臻專門給軍委寫信，談他對楊成武為總參謀長接替人選的看法，并安排秘書周均倫去向主持軍委日常工作的領(lǐng)導同志當面匯報他的意見。但是，由于楊成武長期在軍隊中樞總參謀部工作，在那個特殊的年代里，他和文革時期的軍內(nèi)問題不可避免有這樣和那樣或多或少的牽連。因此，當時軍內(nèi)對楊成武作為總參謀長接替人選的異議不少。

在物色總參謀長接替人選的過程中，鄧小平廣泛征求黨內(nèi)、軍內(nèi)一些老同志的意見后，認為楊勇打仗不錯，團結(jié)同志，主持總參謀部時工作認真負責，擬由他接任總參謀長，并準備將總后勤部部長張震調(diào)任第一副總參謀長，協(xié)助楊勇主持總參謀部工作。就在此時，情況發(fā)生了一些變化。由于楊勇在主持總參謀部日常工作期間，比較堅持原則，得罪了一部分人，有些人不愿意看到楊勇接任總參謀長，于是關(guān)于楊勇的流言蜚語又多起來，不少匿名的告狀信也寄到了軍委等有關(guān)部門。面對出現(xiàn)的新情況，軍委對總參謀長人選又有了新考慮。

11月底，鄧小平召見中央軍委常委、秘書長耿飚，談了他對總參謀長接替人選的意見，并安排耿飚向軍委副主席聶榮臻、徐向前作了匯報。之后，鄧小平又指示耿飚向在廣東休息的軍委副主席葉劍英征求意見。11月30日到12月5日，耿飚和總政治部主任韋國清專程到廣州向葉劍英匯報總參謀長接替人選問題。葉劍英在聽了耿飚與韋國清的匯報后，十分重視總參謀長接替人選問題，并為此專門寫了一封信，讓耿飚和韋國清回京帶給鄧小平。

12月6日，耿飚和韋國清回到北京后向鄧小平匯報了廣州之行的情況。為確定好總參謀長人選，12月14日、19日，鄧小平又冒著北京的嚴冬親自趕到徐向前、聶榮臻家中，和他們交換總參謀長人選及其他相關(guān)事宜。親自出門拜訪有關(guān)領(lǐng)導，對那時及之后的鄧小平來說，是不多見的。最終，經(jīng)過鄧小平和幾位老帥的反復(fù)協(xié)商，終于確定下來新的總參謀長接替人選：楊得志。在醞釀楊得志作為總參謀長接替人選時，很多同志都談到，楊得志是我軍有名的戰(zhàn)將，從一名普通戰(zhàn)士逐級成長為大軍區(qū)司令員，有豐富的作戰(zhàn)經(jīng)驗，為人正直，能團結(jié)同志，善于聯(lián)系群眾，領(lǐng)導作風民主，是比較合適的總參謀長人選。

1980年1月，總參謀部領(lǐng)導班子開始調(diào)整，楊成武、張才千、李達不再擔任副總參謀長，張震、劉華清任副總參謀長。楊成武繼續(xù)擔任福州軍區(qū)司令員，張才千任武漢軍區(qū)司令員，李達任軍委顧問。2月中旬的一天，鄧小平專門會見楊得志，向他傳達了中央讓他接任總參謀長的決定。

2月20日下午，總參謀部召開所屬部局正職以上領(lǐng)導干部大會。中央政治局委員、中央軍委秘書長耿飚主持會議，并宣布中共中央決定：鄧小平免兼中國人民解放軍總參謀長、總參謀部黨委第一書記；楊得志為中國人民解放軍總參謀長、總參謀部黨委第一書記、中央軍委副秘書長、軍委辦公會議成員。摘自《世紀風采》