一一登记造册，派人送到开封交给赵匡胤。
平定南唐后，曹彬率领大军押解李煜和南唐宗室、大臣返回开封。赵匡胤亲自到城门迎接，见曹彬率军归来时依旧纪律严明，将士们秋毫无犯，心里大喜，当即任命他为枢密使，掌管全国军事，地位等同于宰相。这时有人对赵匡胤说：“曹彬平定南唐立下大功，要是再给他这么高的职位，恐怕他权势太大，对朝廷不利。”赵匡胤却笑着说：“曹彬为人忠厚，不是那种恃功自傲的人。朕要是连这样的功臣都不信任，以后谁还会为朕效力？”
果然，曹彬担任枢密使后，依旧保持着谦逊谨慎的态度，从不居功自傲。他每天按时上朝处理政务，对下属宽容大度，对同僚谦和有礼，就算遇到有不同意见的人，也不跟人争执，而是耐心听对方说完，再说出自己的看法。赵匡胤好几次在朝堂上称赞他：“曹彬不光能率军破敌，还能用德行服人，真是我大宋的栋梁之臣。”
宋太平兴国元年（公元976年），赵匡胤驾崩，他的弟弟赵光义即位，就是宋太宗。太宗即位后，对曹彬依旧信任，继续让他担任枢密使。那时北宋基本统一了南方，太宗就把目光投向北方，想收复被契丹占据的燕云十六州。宋雍熙三年（公元986年），太宗决定发动北伐，史称“雍熙北伐”。他任命曹彬为幽州道行营前军马步军都部署，率领东路军作为主力，从雄州（今河北雄县）出发直取幽州（今北京）；又任命田重进、潘美分别率领中路军和西路军，从定州（今河北定州）、雁门关（今山西代县）出发，配合东路军行动。
那时曹彬已经五十六岁，依旧心系国事。他清楚这次北伐事关重大——燕云十六州地势险要，契丹军队勇猛善战，绝不是容易对付的。临行前，太宗对曹彬说：“东路军是全军主力，你一定要谨慎行事、稳扎稳打，等中路军和西路军攻克各自目标后，再跟他们会师，一起攻打幽州。”曹彬躬身领命：“臣一定遵旨，不敢有丝毫懈怠。”
北伐初期，宋军进展很顺利。西路军在潘美率领下，先后攻克了云州（今山西大同）、应州（今山西应县）等州郡；中路军在田重进率领下，也攻克了飞狐口（今河北涞源北）等军事要地；东路军在曹彬率领下，先后拿下固安（今河北固安）、涿州（今河北涿州）等地，兵锋直指幽州。
可形势很快就变了。契丹皇帝辽圣宗耶律隆绪知道宋军北伐的消息后，立刻任命耶律休哥为南京留守，率领大军抵御东路军；又任命耶律斜轸为山西路兵马都统，率领大军抵御西路军和中路军。耶律休哥是契丹名将，擅长用兵，他知道东路军是宋军主力，只要打败东路军，宋军的北伐就会不攻自破。于是他定下“游击骚扰”的策略，不跟曹彬的大军正面交锋，而是派小股骑兵不断袭击宋军的粮道，抢夺粮草。
曹彬率领东路军攻克涿州后，粮草渐渐不够了，士兵士气也开始低落。他派人向太宗请求粮草支援，可太宗觉得曹彬进军太快，违背了“稳扎稳打”的初衷，下令让他暂时撤退到雄州，等中路军和西路军的消息。曹彬只能率军撤退，可他麾下的将领们不愿意——大家觉得一路攻克城池、战功赫赫，现在因为粮草不足撤退，会被人笑话。曹彬知道将领们的想法，可也明白粮草不足的危害，他反复劝说，可将领们还是坚持要继续进军。
就在这时，