今山东郯城北)，与夏侯渊率军围攻，数月后，曹军粮尽，夏侯渊准备退军。对夏侯渊说：“数日已来，每行诸围，豨辄属目视辽。又其射矢更稀，此必豨计犹豫，故不力战。辽欲挑与语，傥可诱也”（《三国志?魏书?传》）夏侯渊表示同意。于是，派人对昌豨说：“公有命，使辽传之”(《三国志?魏书?传》)。昌豨果然下城和相见。劝他说：“太祖神武，方以德怀四方，先附者受大赏”(《三国志?魏书?传》)。昌豨答应投降。便单身登上三公山，进入昌豨家中，拜访昌豨的妻子儿女，昌豨欢喜，便随去见曹操。

曹操对昌稀抚慰有加，命他仍回原地。然后指责说：“此非大将法也。”认错，并说：“以明公威信著于四海，辽奉圣旨，豨必不敢害故也”(《三国志?魏书?传》)。

建安八年(203年)正月，随曹操到黎阳(今河南浚县东北)征讨袁谭、袁尚兄弟，有功，受命代理中坚将军。袁尚逃奔邺(今河北临漳西南)，曹操继续追击，由于袁尚坚守，未能攻下。曹操暂回许昌，派与乐进先攻下阴安(今河南清丰县北)，把那里的百姓迁到黄河南岸。

建安九年(204年)二月，跟随曹操再次领兵攻邺，八月，破邺城。另领一支军队去平定赵国(汉代国名，辖地相当于今河北南部)、常山(汉郡名，辖地相当于今河北正定到赵县一带)，招降了沿太行山一带的各部分农民起义军和黑山起义军首领孙轻。十一月，跟随曹操攻讨袁谭。并于建安十年(205年)正月，击杀袁谭于南皮(故治在今河北南皮)。迫使袁尚和他的次兄袁熙逃奔辽西乌桓。又独自率军平定辽东(汉郡名，辖地相当于今辽宁东南部)，又镇压了辽东一带柳毅等领导的农民起义军。回到邺城的时候，曹操亲自迎接，与其共载，加封为荡寇将军。接着，他又奉曹操之命向荆州的刘表发动进攻，平定了江夏(汉郡名，辖地相当于今湖北汉阳一带)诸县，还屯临颖，被封都亭侯。

建安十二年(207年)秋，曹操为统一北方，开始远征乌桓的作战。曹操挥师北上，亲率轻骑兵，昼夜兼程，疾速行军，并以主力攀崎岖小道，出卢龙寨，跋涉500余里，越白檀、平岗，进抵柳城(今辽宁朝阳西南)以东。八月，辽西单于楼班与袁尚、袁熙及蹋顿单于等，率骑兵数万迎击曹操。曹操登上白狼山(今辽宁喀喇沁左翼蒙古自治县东境白鹿山)，踞高远望，见敌军虽众，但阵容散乱，便欲攻敌。此时，情绪激昂，也劝曹操与其相战，曹操于是不顾后续部队尚未集结，立即令将军为先锋率兵发起突击，并将