曹操上表汉献帝，称张辽、于禁、乐进说：“武力强大，计谋周全，品性忠正，操守高洁，每次征战，身先士卒，勇猛顽强，无坚不摧；亲自擂动战鼓，忘了疲倦。他们单独领兵征讨，统率全军，抚慰将士，纪律严明，秋毫无犯；临敌决策，没有失误。论功记职，应该给予显要荣宠。”
收复东莱诸县后的张辽引军还邺（yè）城，曹操亲自出城迎接，邀请他同乘一辆车，任命他为荡寇将军。
建安十一年（206年），张辽率军攻打荆州，平定江夏诸县，在临颖屯兵，受封为都亭侯。
曹操要征讨在柳城的袁尚，张辽进谏：“许都，是天子所在的地方。现今天子就在许都，曹公北征甚远，若刘表派遣刘备攻击许都，占据它，号令四方，您的形势将会大去。”
曹操判定刘表必不能任用刘备，于是，继续出征。
行军中途与敌军相遇。
张辽壮气奋发，力劝曹操接战，曹操十分欣赏张辽的斗心，又看见乌桓的军队尚未排成阵形，于是将自己的麾旗授予张辽暂用，任命张辽为前锋出战，于是张辽引军突击，大破乌桓，斩单于蹋顿于阵前。
那时候荆州尚未安定，曹操命张辽屯军于长社。
军队临出发之际，军中忽有谋反者起事骚动，半夜惊乱起火，全军尽受其扰。
此时张辽对左右说：“不可乱动。这一定不会是全营尽反，必然是引起叛变之人，想藉此惑乱他人而已。”
于是，传令军中，只要不是反乱者安坐勿动。而张辽则带领亲兵数十人，守立于阵中。不久情况稳定下来，军中随即擒获首谋者，并将其杀除，动乱亦告平定。这次平乱，事关重大，要不是张辽沉着冷静，处变不惊，险些闹出动乱。
…… ……
赤壁之战时。曹操徙赵俨为都督护军，护于禁、张辽、张合、朱灵、李典、路招、冯楷七军。
庐江人陈兰、梅成占据氐等六县作叛，曹操于是遣于禁、臧霸等讨伐梅成，又命张辽督领张合、牛盖等讨伐陈兰。
当时梅成诈降于禁，于禁引军便还。
不料梅成趁机会带其军众往投陈兰，二人转入潜山自守。
潜山（今为安徽省潜山县）中有天柱山，高峻约有二十馀里，道路险狭，陈兰等众避于其上，山下进军难通。
张辽意欲登山进兵，他的手下将领都说：“此山道路险恶，我军兵少，很难可以深入用兵。”
张辽却说：“这正是所谓‘一与一，勇者得前耳’（只有勇者可以前进）。”
于是进至山下安营，起兵上山攻击，终于斩下陈兰、梅成首级，尽虏其众。
曹操论诸将功劳，说：“登上天山，踏过险峻，成功讨取陈兰、梅成，都是荡寇将军（张辽）的功劳。”
于是增张辽的食邑，假节（古代使臣出行，持节为符信，故称。汉末时，掌地方军政的官往往加使持节、持节或假节的称号。使持节得诛杀中级以下官吏；持节得杀无官职的人；假节得杀犯军令者，也就是说，持假节者，有生杀大权）。
…… ……
当曹操征孙权无功而还时，任命张辽与乐进、李典等部领七千馀人马屯守于合肥。
这个时候，张辽没有随军女人，他就暂时征用了合肥城里的昌倡馆（汉代相当于现在的妓院）的一个姑娘，陪着自己，这个姑娘后来怀孕，生了一个女孩儿，张辽征得姑娘的同意，把她们母子一同送回了洛阳自己家中，历史上没有留下这个女孩儿名字。
…… ……
建安十八年（213年），与臧霸同为征濡须口的前锋，攻破孙权江西营，擒获孙权都督公孙阳。
孙权大将吕蒙奇袭攻下庐江的皖城，张辽在增援途中得知皖城失守，无奈被迫退军。
曹操往征张鲁，先教护军薛悌，付其一书署名急函往合肥予张辽，上有字样云“贼至乃发”（贼军来到便拆信阅之）。
不久东吴孙权率领十万大军进围合肥，合肥诸守将乃共同拆信视曹操所教，信中言道：“若孙权军来到，张、李将军出战；乐将军守护军，不得与战。”
诸将皆为此感到疑惑。
此时张辽便说：“曹公远征在外，待其救兵来时，敌军必定已攻破我们了。所以曹公教我等众将，待敌军未合便逆（迎）而击之，摧折敌军锋锐，以安众人之心，然后方可坚守。成败之机，在此一战，诸君何须疑惑？”
而李典亦与张辽持相同意见。
于是，张辽在夜间募集敢于逆击敌锐之士，共得八百人，于是开剥牛支让将士饱食，准备明日大战。
天尚未亮，张辽被甲持戟，独自先登，直陷敌阵，亲手斩杀了孙权军队的数十人和两名将领，并于阵中大呼自己的名字，然后突击冲入重垒，直至孙权麾旗之下。
孙权见状大惊，其众手足无措，不知所为，只得逃到高丘之上，仅以长戟自守而已。
张辽见敌军退避，便叱喝孙权，挑衅他下来对战，孙权惧而不敢动；及至望见张辽所领之兵原来甚少，于是忽聚众军数重围困张辽。
张辽于吴阵左右突围，直前急击，其围不禁冲撞而开，张辽将领麾下数十人得以脱出。但阵中尚有余众未出，皆号呼张辽道：“将军舍弃我们了吗！”
张辽复又还入重围，救出被困余众。孙权人马皆望风披靡，无人敢抵挡张辽。
早晨战至日中，吴军锐气为张辽所夺，曹军此时还城修业进行守备，众心方才安定下来，诸将对张辽所为均表示叹服。
孙权攻打合肥十余日，始终攻不下来，于是还军退师，张辽率诸军乘势追击，几乎捉住孙权，江东名将陈武亦在此战中被击杀。
…… ……
曹操闻此，对张辽的表现大加赞许，并拜张辽为征东将军。
张辽大败孙权一事震惊孙吴，计《三国志?吴书》连裴注中，述及此事的列传有七篇。据《魏略》记载，此役之后，江东小儿啼哭不肯止者，其父母只要吓唬说：“张辽来了，张辽来了！”孩童就没有敢哭泣的了。这就是“张辽止啼”的由来。