1949年7月，败退的国军残部相继撤逃台湾。由于人事背景不同，所受到的待遇是天壤之别。比如阙汉骞的54军，是陈诚的嫡系部队。当该军到达基隆时，陈诚发动当地的绅商到码头进行慰问欢迎，一时间敲锣打鼓，各色标语飞扬，有如凯旋一般。 上海解放后，54军残部败走，明明是打了败仗，到台后却让陈诚弄得十分热闹，进入台北后，立刻被安置在修葺一新的营房中。该军军长阙汉骞也很快就被任命为台湾警备副司令兼台中地区司令，随后，陈诚把台湾的兵源优先补充到54军。 在陈诚的特殊关照下，54军很快就齐装满员，成为在台湾的国军主力部队。但是，对于杂牌，陈诚可就是痛下下手了。 和54军同一个月撤到台湾的52军，军长刘玉章去见陈诚时，陈诚开门见山地提出，52军在上海撤退时损失太大，已经有名无实，应即进行改编。 刘玉章气得跺脚，当场反驳说：“52军隶属京沪杭警备总司令部建制，陈长官有何意见，请找汤恩伯总司令处理。” 陈诚见刘玉章居然出言顶撞，拒绝改编，于是便打击报复，不等52军残部休整完毕，就下令该军开往澎湖列岛的马公岛驻扎，借此泄愤。不久之后，陈诚又将52军的刘梓皋师，改归第五军建制，以削弱该军。 为何陈诚如此对待52军呢？52军的首任军长是关麟征，关麟征和陈诚素来不和，曾经讥讽过陈诚气量狭小成事不足败事有余，这让陈诚含恨在心，一直借故打击关麟征。解放军渡江后，关麟征留在香港不去台湾，也与这种历史恩怨有关，因为关麟征太了解陈诚的为人了，去了怎会有好果子吃呢？对付不了关麟征，陈诚就拿52军和刘玉章出气。 在上海战役中，因未接到汤恩伯撤退命令而被丢弃的37军军长罗泽闿 ，在上海解放后不久，化装搭乘外国轮船，辗转经香港逃到了台湾。 罗泽闿以前当过胡宗南的参谋长，在辽沈战役前后，又担任过国防部第三厅（作战厅）厅长，罗泽闿性格倔强，他曾当着蒋介石的面，跟杜聿明、廖耀湘等人都吵过架。逃到台湾后，罗泽闿愤恨汤恩伯不通知他撤退，使他几乎成了俘虏，所以一到了台湾，他就极力对汤恩伯进行攻击和控告。 而汤恩伯的亲信，在上海守备战中负有战败责任的石觉、陈大庆等人，也不肯示弱，对罗泽闿进行反唇相讥。双方闹得相持不下，蒋介石无奈之下，只得组织召开上海作战检讨会议，以求解决矛盾。 当时参加会议的成员，是逃台的国军师长以上的将领。蒋介石原本想亲自主持会议，后来觉得，上海之战，自己也在军舰上督战，也是不通知别人就先走了，他怕在会议的七嘴八舌之下，很容易让他也陷入尴尬地位，所以，临开会时蒋介石没有去，而是叫陈诚去主持。 在会前，石觉和陈大庆曾分头向出席会议的人疏通，说“此次上海作战和撤退，不论其损失大小， 只要能撒到台湾，都是有功的。至于过失方面，汤总司令一个人替大家承担了，希望大家在检讨会议上，对汤总司令要言于留情。”石、陈是想用这种拉拢办法，孤立罗泽闿，当然两人也不光是为汤恩伯，毕竟如果真追究战败的责任，汤恩伯下来就轮到他俩了。 到开会时，首先发言的人就是罗泽闿，他愤愤地说：”汤恩伯身为上海国军的总指挥，在撤退时，带头逃跑，将部队遗弃而不顾。像这样的行为，将何以面对部下？汤恩伯应该自杀以谢罪！” 这番话把汤恩伯气得脖子都红了，与他二个多月前在上海被蔡文治所骂时相比较，要更为难堪。因此，罗泽闿的语声刚落，汤恩伯立刻接上去反驳说：“你罗泽闿能说会道，在会上说话如同猛虎一般，但是在作战时，却连绵羊也不如。你的部队，在浦东不战而溃，使得整个战局逆转，以致指挥部无转圜的余地。你还说我该自杀，你就早该自杀！” 汤恩伯刚说完，罗泽闿接着又反驳，结果形成两人对吵，别人都无法插嘴。陈诚坐在主席位上，也只是摇头叹息，不发一言。 争吵的结果， 双方都提出要求开军事法庭候决。陈诚眼看这样吵下去，什么问题都解决不了，就算吵到第二天也是无济于事，于是说：“就由国防部组织军事法庭进行解决吧。” 会后，在蒋介石和陈诚的有意包庇下，对汤恩伯的责难声小了许多，所谓的军事法庭也就再无下文了。 国军在京沪杭惨败之后，不少将领都直言汤恩伯指挥能力低劣，更有人用八个字来形容汤恩伯，说他一向是“战前紧张，枪响忙乱。”汤恩伯为人冲动，每每为局部战况所牵制，一再改变决心，终于打乱整个作战计划。 罗泽闿曾举例说，在4月20日夜间，芜湖方面告急，汤恩伯不就近使用106军去增援，却从沪宁线上把99军调去，以致削弱了重点防区的机动力量。结果援军未到，前线已垮，增援部队与垮下来的部队混在一起，被解放军轻松歼灭。4月21日晚，江阴要塞起义，汤恩伯惊慌失措，在很长时间没有部署反击。凡此种种，类似的错误汤恩伯也确实犯了不少。 就在汤恩伯饱受指责的时候，8月，蒋介石任命他为福建省主席兼东南军政长官公署厦门分署主任，任命一出引起一片哗然。不过话说回来，此时的蒋介石也真没有几个人可用了，不用汤恩伯又能用谁呢？
