王冠五出生在河南省汝南縣三橋鎮(zhèn)的殷店村，其家境頗為優(yōu)渥，幼年時期進入汝南簡易師范附小進行啟蒙教育，長大成人后在西北軍馮玉祥部服兵役，先后擔(dān)任排長、連長以及營長等職務(wù)。

王冠五畢業(yè)于國民黨黃埔軍校高級班和南京中央軍校高等教育班，在學(xué)習(xí)期間結(jié)識了黃公略、賀國中等共產(chǎn)黨人，接受了革命思想，畢業(yè)后回西北軍吉鴻昌部任職。1930年9月，吉鴻昌部被改編為第二十二路軍，王冠五因指揮有方、屢有戰(zhàn)功，被提升為團長。王冠五將軍不喜歡舞會、宴席、打麻將，而偏喜好看書、練劍，有很深的古典文化積淀，特別喜歡看《資治通鑒》等書籍。他愛兵如子，艱苦樸素，常說"兵比將大，官比民小"，深得戰(zhàn)士們的擁戴。

1938年臺兒莊戰(zhàn)役爆發(fā)，擔(dān)任第三十一師師附兼職代理第三十一師第九十三旅第一八六團團長兼職代理第三十一師第九十一旅旅長的王冠五被任命為臺兒莊戰(zhàn)役守城總指揮，發(fā)出“寧同孤城共存亡，不與倭寇戴天地”的鋼鐵誓言。臺兒莊戰(zhàn)役的慘烈程度不言而喻，巷戰(zhàn)時，就是墻上一個槍眼，雙方都奮力爭奪，并且付出慘痛的代價，最激烈的時候，王冠五曾一日之內(nèi)兩三次被人從打塌的房子內(nèi)扒出來，可見大戰(zhàn)之慘烈。3月27日晚，日軍百余人竄入城西北角，占領(lǐng)文昌閣，文昌閣是臺兒莊的制高點。

為收復(fù)文昌閣，王冠五派遣特務(wù)連72壯士組成突擊隊，以黃花崗72烈士的英勇事跡，激勵壯士奮勇殺敵，在炮火掩護下，11時，突擊隊攻克文昌閣，72名壯士生還58名。4月7日，臺兒莊大捷，王冠五功不可沒，被授予“華胄榮譽獎?wù)隆?，因抗日?zhàn)功晉升少將軍銜。臺兒莊戰(zhàn)役之后，王冠五將軍衣不卸甲馬不解鞍又參加了武漢會戰(zhàn)中的大別山北麓激戰(zhàn)。

8月中旬，隨第二兵團司令孫連仲由魯南開赴湖北麻城附近。10月上旬率部在河南商城至麻城公路兩側(cè)的打船店、沙窩、白雀園一帶山區(qū)與日軍第十三、十六師團反復(fù)拼戰(zhàn)，再次立下赫赫戰(zhàn)功。1939年冬，王冠五率部駐防豫東待命，結(jié)識了新四軍高官魯雨亭，魯雨亭當時是新四軍彭雪楓部游擊支隊第一總隊總隊長，率有三個團的兵力。他們二人密切配合，協(xié)同作戰(zhàn)，不斷襲擊日軍，還曾多次資助物資和武器裝備給游擊隊，在戰(zhàn)火中，二人感情迅速上升，親如兄弟，還結(jié)了娃娃親。王冠五積極幫助新四軍，得到了彭雪楓將軍的會見，二人一見如故視為知己。解放戰(zhàn)爭時期，王冠五看不慣國民黨的腐敗，不愿打內(nèi)戰(zhàn)，在一個風(fēng)雨交加的雨夜，給李先念的部隊讓路，上演了“解放演義”版的“華容道”，王冠五就是這段"演義"里的關(guān)云長。

1947年，不愿打內(nèi)戰(zhàn)的王冠五罷官回鄉(xiāng)，解甲歸田與妻兒過清閑的生活，不再參與政治。在開封第一次解放時，王冠五帶妻女去往臺灣，當時已經(jīng)到了武昌，共產(chǎn)黨派人再三勸說，說他和其他的國軍軍官不一樣，多次資助共產(chǎn)黨，不要害怕應(yīng)該留下來等，再加上其他好友勸說，就留了下來。