1926年11月，郭汝瑰随队迁往武汉。当时，由于铁路尚未修通，他们都是先坐火车到韶关，再步行翻越骑田岭，经石峰、良田，到达郴州，而后坐小船沿湘江北上，经耒阳、衡阳、湘潭到长沙，再改乘火车到武汉。
1927年4月，由于老蒋在上海发起“四一二政变”，学校顾虑四川军阀会配合老蒋进攻武汉，令郭汝瑰等人提前毕业，前往涪陵郭汝栋军中，争取郭汝栋。1928年5月，郭汝瑰秘密入党。
1930年中原大战爆发，湖北空虚，郭汝瑰随郭汝栋移师宜昌，稳定老蒋后方。随后又驻防黄冈。
1930年冬，为摆脱“共党”嫌疑，郭汝瑰前往日本士官学校学习，又成了老蒋的同门校友。在日本期间，郭汝瑰深刻感受到日军训练的严格认真，一丝不苟。同时，他也体会到了日军对中国留学生的歧视和防范。
日本士官学校是旧日本的著名军校，近代军界名人何应钦、阎锡山、汤恩伯等都从这里毕业
1931年，“九一八事变”爆发，留学生们群情激奋，在1932年初，郭汝瑰等人即退学回国，随后，郭报考了南京的陆军大学，在陆大期间他勤奋学习，通晓三国语言。学成之后留校任教，担任战史教官。
1937年5月，郭汝瑰前往常德，担任18军14师参谋长。随即，全面抗战爆发，郭汝瑰所在的部队准备开赴北京抗日前线。
1937年8月，部队到达邯郸时，淞沪会战爆发，郭汝瑰所部又被紧急调到苏州，准备参加上海抗战。凇沪会战中，他临危受命，担任42旅代理旅长，防守南塘口，激战七昼夜，8000人只剩下2000。战后，被陈诚提拔为14师参谋长。
1937年11月，上海沦陷，郭汝瑰撤到苏州，随即，为保存部队，14师不去南京，而是经无锡、宜兴、绕过太湖，走广德、宁国、歙县、景德镇、南昌、九江等地，撤往武汉。
1938年6月，武汉会战爆发，陈诚按照德国顾问的建议，准备围绕武汉三镇构筑环形防御体系，郭汝瑰觉得这样打阵地战，只是南京保卫战的翻版，遂向陈诚建议，将部队置于武汉外围，沿长江两岸的山地，层层抵挡日军进攻，陈诚采纳，郭汝瑰前往富池口等战斗前沿抵抗日军，后升任54军参谋长。
1938年10月，武汉即将失守，郭汝瑰经通山退往长沙，接着驻防常德，此时他已担任20集团军参谋长。
1941年10月，为了补全经历，郭汝瑰前往澧县担任73军暂5师师长，期间，郭汝瑰废除前任留下的造册吃缺，整顿军纪，获得官兵拥戴，随后，他又参加第三次长沙会战，作战勇敢，成功转变了薛岳对自己的看法，在追击战中，郭汝瑰俘虏日军两人，缴获枪支十多把。薛岳为了栽培郭汝瑰，授意自己的军务处长让郭多报战功：“就报二十几个俘虏，一百多支枪吧！”
1943年，郭汝瑰调入重庆的国防研究院，期间，日军在宜昌附近集结大量兵力，老蒋不知日军意图，慌了手脚，要亲临前线指挥作战。当时陈诚远在云南，听到消息后，赶紧对老蒋说：“你去不如我去，明知谁也守不住，你是全国统帅，丢地方怎么能行，还是我去吧。”老蒋顺水推舟，陈诚出任前线总指挥。陈诚也判断不了日军的进攻大方向，找郭汝瑰咨询。郭汝瑰判断，日军不是要抢占常德产粮区，而是要学希特勒搞钳形攻势，企图消灭长江南岸的防守部队，建议陈诚将部队退到石门一带。陈诚采纳，后来日军的行动果然如其所说。
1944年3月，郭汝瑰奉命乘飞机前往英国伦敦，考察英国的国防机构组织情况，行动路线为昆明、加尔各答、卡拉奇、巴勒斯坦、开罗、伦敦。1945年2月，他随桂永清回国，担任军政部副署长。期间，恢复了与延安的联络，董必武令其潜伏下来，收集情报。
1945年8月，日军投降，郭汝瑰前往芷江受降，9月又前往南京受降。
1945年9月，郭汝瑰回到重庆，后随美国五星上将马歇尔调停军事冲突，先后到北京、张家口、呼和浩特、济南、徐州、太原、延安、武汉等地考察。
1946年5月，他回到南京，随着陈诚的得势，郭汝瑰一年三迁，先后担任总长办公厅副厅长，主管编制装备的国防部第五厅厅长，主管作战的国防部第三厅厅长，值得一提的是，当时国防部分管第三厅的是参谋次长刘斐。
1947年5月，华东战场，徐州的薛岳不敌陈粟大军，连战连败，被校长免去职务，顾祝同继任，孟良崮战役后，陈诚又举荐郭汝瑰为徐州陆总参谋长。
1948年7月，豫东战役后，郭汝瑰回南京继续担任第三厅厅长，在南京，他详细参与指挥了辽沈战役、淮海战役。1949年1月，郭汝瑰前往上海担任72军军长。由于连续的战败，同年2月，他被派往重庆招募新兵。
1949年5月，郭汝瑰驻防宜宾。
1949年12月，郭汝瑰升任22兵团司令，不久后，他在宜宾起义。
1950年，郭汝瑰前往南京军事学院任教。1970年，回到重庆定居。1997年，郭汝瑰遭遇车祸与世长辞，走完了他90年波澜壮阔的一生。