曹操平定汉中后，命张合迁徙巴西郡百姓至汉中。
张合率军进至宕渠，却遭蜀汉名将张飞阻击。
张飞率万余精兵，依托瓦口关的险峻地形，构建了“一夫当关，万夫莫开”的防线。
张合见硬攻不下，便分兵屯驻三寨，形成犄角之势，打算“以战养战，待蜀军粮尽自退”。
双方对峙五十余日，一日，张合登上了望台，见山下百姓在田间劳作，忽然心生一计：他命士兵伪装成百姓，混入蜀军后方，侦察到一条隐蔽的山间小路。
正欲派兵绕道时，却不知张飞早已识破其计，在小路两侧埋下伏兵。
当张合率轻骑进入峡谷时，突然听到一声胡哨，山上滚木礌石齐下，曹军顿时大乱。
张飞率铁骑从后方杀出，张合“弃马缘山，独与麾下十余人从间道退”（《三国志·张合传》），此役成为他军事生涯中罕见的惨败。
建安二十四年（219年），定军山之战爆发，夏侯渊被黄忠斩杀，曹军军心大乱。
张合在乱军中接到败报，立刻飞马驰往夏侯渊大营，只见军旗倒地，士兵四散奔逃。
他跃上一块巨石，拔剑高呼：“夏侯将军已亡，吾乃张合！愿随我者，列阵迎敌！”
凭借着多年积累的威望，他迅速收拢残部，将军队撤至阳平关，依托关隘布下“重弩阵”和“拒马桩”。
刘备率大军来攻，见关防森严，不禁叹道：“向使夏侯渊善用张合，吾安得至此？”
直至曹操亲率援军抵达，西线战局才趋于稳定。
曹操拍着张合的肩膀说：“昔日子胥不早寤，自使身危，今儁乂临危不乱，真社稷之臣也！”
黄初三年（222年），曹丕伐吴，命张合随曹真进攻江陵。
这是张合首次指挥水军，他却不显慌乱，先命人绘制长江水势图，发现江陵城北的百里洲是关键——此洲位于长江中央，若控制此处，即可切断江陵与外界的联系。
他亲率楼船舰队，以“蒙冲斗舰”为前锋，强弩手列于船首。
吴军将领孙盛率水军来战，张合却命舰队散开，以