讨使督促,必然不能互相协同。”张俊采纳了他的意见。整军到豫章,杨存中率兵数千人,首先在玉隆观击败敌众,追到筠州。敌人骁将率众十万前来支援,夹河而阵。杨存中对张俊说:“敌众我寡,攻击敌人应使用奇兵,愿意率骑隶属,公以步兵居前。”张俊听从了他的意见。杨存中夜里衔枚渡筠河,出西山,急驰而下攻击敌人,张俊以步兵夹攻,俘敌八千人。众将夜见杨存中说“:战斗没有停止,降卒太多,突然发生叛乱,怎么办?非将他们全部歼灭不可。”杨存中说“:我不忍杀死投降的敌人。”众将转告张俊,竟然在夜晚全部坑杀俘虏。乘胜追到九江,李成于是逃走。迁任宣州观察使。
绍兴二年(1132)春,杨存中进任神武中军统制,宰相吕颐浩从袖中拿出敕令交给杨存中。张俊奏请将杨存中留在军中,高宗说:“宿卫部队缺乏将帅,我所挑选的,不能改变。”杨存中也坚决推辞,并且说“:神武诸将如韩世忠、张俊,皆贵拥旄钺,名望至重,像我这样微不足道的人,一旦地位与他们相抗衡,实在难以自安。”高宗不答应,派宦官宣押,杨存中才就职视事。兼提举宿卫亲兵。当时中军士卒不满五千人,疲弱老病的占一半。杨存中请求将神武士卒借调到其他部队的拨回军中,从此军政渐渐得到治理。
绍兴三年(1133),严州妖贼缪罗占据白马源,杀死官员,杨存中率兵讨平。除带御器械,加保信军承宣使,权发遣。。延路马步军副总管。
绍兴六年(1136),任龙神卫四厢都指挥使、密州观察使。原先,张浚视察军队,谋画渡过淮河攻打刘豫,倚靠韩世忠部实行。韩世忠包围淮阳,通过张浚请求张俊部将赵密出兵协助,张俊拒绝了他的要求。赵鼎对张浚说“:韩世忠所要求的是赵密,杨存中的武勇,不差于赵密,何不令杨存中协助他。”张浚向朝廷请示,因此才有这一命令。于是杨存中率领八队一万人,奔赴督府协助韩世忠。
十月,杨存中在藕塘同刘猊展开激战,大败刘猊。刘猊当初南侵之时,淮西宣抚使刘光世打算放弃庐州,退保太平。敌众十万已到达濠、寿州之间,张浚命令张俊抵御,派杨存中前往泗州同张俊会合。等到了泗州,刘光世已经放弃庐州而去。张浚派人劝告他说“:一人渡江南下,便立即斩首示众。”刘光世迫不得已返回庐州驻兵,与杨存中相互应援。敌人先进犯定远县,杨存中率兵二千在赵家坊袭击打败敌人。不久与刘猊兵在藕塘相遇,敌军据山列阵,矢如雨下。杨存中急忙出击,并派统制吴锡率劲骑五千突入敌阵。敌阵混乱,杨存中鼓动大军乘胜出击,自率精兵冲击敌军中部,高声呼叫“:击破敌人了!”敌众惊慌失措目瞪口呆。前军统制张宗颜从泗州赶来,从敌背后出击,敌人大败。刘猊将头撞击谋士李愕说“:刚才看见一位长满胡子的将军,锐不可当,果然是杨存中。”急忙率数骑逃走。余众万人僵立失措,杨存中跃马呵斥他们,都恐怖而降。当时刘麟在顺昌,孔彦舟刚围攻光州,听说这一消息后都拔营逃走,北方大震。此战宋军共缴获舟船数百艘,车数千辆。
捷报传来,高宗派宦官赐赏慰问,对宰相说:“你们现在才知道我所任得人吧。”任命杨存中为保成军节度使、殿前都虞候,不久兼领马步帅。杨存中上奏:“祖宗时设置三衙,鼎立相制,现在我一人独揽,不符合旧例。”高宗没有答应。绍兴七年(1137),任淮南西路制置使,准备让他抚定郦琼各军,后来没有成行,这些事记载在《王德传》中。绍兴九年(1139),迁任殿前副都指挥使。
绍兴十年(1140),金朝背叛盟约攻取河南,朝廷命令杨存中任淮北宣抚副使,率兵到宿州,以步兵退屯于泗州。金人派人送假情报说敌骑数百屯于柳子镇。杨存中打算前往攻击,有人认为不可,杨存中不听。留王滋、萧保率一千骑兵守卫宿州,自率五百骑夜袭柳子镇,黎明时,没有见到敌人而回。金军以精兵埋伏在杨存中归路上,杨存中知道这一情况,于是横冲溃散。参议官曹勋不知道杨存中死活,上报朝廷,朝廷震恐,于是下令暂且退保泗州。不久杨存中从寿春渡过淮河回到泗州,人心才安定下来。冬天,率兵返回行在。