大军讨伐南唐。
这次出征，赵匡胤对曹彬更信任了，不仅把全军指挥权交给了他，还特意赐给他一把尚方宝剑，叮嘱道：“这次伐唐事关重大，全军将士都归你节制，要是有不听号令的，不管官职大小，你可以先斩后奏。”曹彬接过尚方宝剑，对赵匡胤说：“臣愿意用恩信安抚将士，用谋略攻克南唐，尽量减少伤亡，不到万不得已，不愿动用刑罚。”赵匡胤点头说：“朕相信你能做到。”
大军出发后，曹彬定下“先断后路，再围都城”的战略。他先率领水军从江陵出发，沿长江东下，攻克了南唐的重要军事据点池州（今安徽池州），接着又拿下了采石矶（今安徽马鞍山南）。采石矶是长江下游的重要渡口，南唐在这儿部署了重兵防守，曹彬利用夜色，派奇兵偷渡长江，绕到南唐守军背后，前后夹击，攻克了采石矶。拿下采石矶后，曹彬让人建造浮桥，把江北的陆军源源不断地运到江南，跟水军形成呼应。
消息传到南唐都城金陵（今江苏南京），李煜大惊失色，赶紧派大将朱令赟率军抵抗。朱令赟率领十万水军从湖口（今江西湖口）出发，顺江而下，想解除金陵之围。曹彬派潘美率领部分兵力在正面牵制敌军，自己则率领精锐水军绕到朱令赟军队的背后，截断他们的退路。
两军在皖口（今安徽安庆西南）相遇，朱令赟果然急于求战，下令水军全力进攻潘美所部。就在两军打得激烈的时候，曹彬率领的水军突然从背后杀出来，南唐军队阵型大乱。曹彬下令放火烧船，南唐水军的战船大多是木船，一时间火光冲天，南唐士兵死伤无数。朱令赟见大势已去，自焚而死，剩下的将士要么战死，要么投降，十万水军全军覆没。
皖口之战后，南唐再也没能力组织大规模抵抗，曹彬率领大军顺利抵达金陵城下，开始了长达数月的围城之战。那时的金陵城城高池深，粮草充足，要是强行攻城，肯定会造成巨大伤亡。曹彬不愿过多伤及无辜，就采取“围而不攻”的策略：一方面派兵把金陵城团团围住，切断内外联系；另一方面不断派使者劝李煜投降，告诉他人“要是归降，能保南唐宗室安全，百姓也能免受战火之苦”。
可李煜还心存侥幸，一边派使者去北宋求和，一边继续坚守城池。围城期间，曹彬严格约束部下，不许士兵骚扰城外百姓，甚至允许城中百姓出城买粮食。
围城几个月后，金陵城里的粮草渐渐耗尽，士兵士气低落，不少将领都劝李煜投降，可李煜还是犹豫不决。曹彬见时机成熟，就派人对李煜说：“现在城池被围了这么久，城里百姓饥寒交迫，再坚持下去恐怕会出变故。陛下要是愿意归降，臣可以向您保证：绝不伤害您和您的宗室、大臣，也绝不劫掠城中财物。”李煜见大势已去，终于在宋开宝八年（公元975年）十一月，率领南唐宗室和大臣出城投降，存在了三十九年的南唐政权正式灭亡。
破城那天，曹彬率领大军进入金陵城，下令封闭南唐的国库，严禁士兵进入；又派人保护南唐宗室和大臣的府邸，不许任何人骚扰。他自己则住在南唐宫殿里，每天处理政务、安抚百姓，城里秩序井然。有将领向他提议：“南唐宫里有无数珍宝，不如拿出一部分赏赐给将士们？”曹彬摇头说：“现在南唐归了大宋，这些珍宝就是国家的财产，咱们怎么能私分？”之后，他让人把国库里的珍宝