軍隊離休干部休養(yǎng)所的雛形，是在上個世紀(jì)七十年代初中期。當(dāng)年有一些高干由于身體原因或年齡較大，無法正常工作，一些部隊就找了一塊地方（一般都不在省會城市），建了一些小規(guī)模的干休所。

全軍大規(guī)模地建立干休所的高潮，是在上個世紀(jì)八十年代初中期。軍委正式下達(dá)了離休干部的政策和相關(guān)的待遇后，各軍兵種、各大軍區(qū)和省軍區(qū)、各野戰(zhàn)軍和軍師級單位，紛紛建立了各種規(guī)格的離休干部休養(yǎng)所。從大軍區(qū)級的，到兵團(tuán)級的，軍級的和師級的。雨后春筍般的干休所在各大城市星羅棋布，隨之大批的建國前參加革命的師級以上的離休老干部，陸陸續(xù)續(xù)搬進(jìn)干休所居住。到了上世紀(jì)九十年代，所有的離休老干部基本都住進(jìn)了各部隊的各級干休所。

轉(zhuǎn)眼四十多年過去了，上世紀(jì)八九十年代離休后進(jìn)入干部休養(yǎng)所的老干部，現(xiàn)在已經(jīng)不多了。軍級以上干部基本都不在了，師級干部平均年齡都在95歲以上。按照這種趨勢，再過一些時間，部隊干休所里的離休干部都會離世，干休所可能就會取消。

各地的各級軍休所在不斷的建設(shè)，入住軍休所的軍隊退休干部越來越多。他們都是團(tuán)級以上干部，在部隊服役到了一定年齡后，直接在部隊退休的。他們原來都居住在各個部隊大院里，退休后，就陸陸續(xù)續(xù)搬進(jìn)軍休所養(yǎng)老了。

原來，部隊的離職干部休養(yǎng)所和退休干部軍休所，都是由各個部隊自行建立和管理的。軍改后為了統(tǒng)一的規(guī)范化管理。各軍兵種和各個部隊的干休所，都移交給了省軍區(qū)、警備區(qū)和軍分區(qū)，軍休所移交給了退役軍人事務(wù)局和地方民政部門。干休所仍然由部隊管理，軍休所由部隊和地方共同管理。這樣一種管理方式，減輕了各部隊的負(fù)擔(dān)，也理順了管理方式和管理對象關(guān)系。