随着皇上的一次次昏厥，执掌朝政的彭城王义康以及领军将军刘湛等人就把注意的目光由爱牢骚的诗人颜延之的身上转到了司空、征南大将军、江州刺史檀道济的身上。.
晋朝末年，檀道济一直追随高祖刘裕南征北战，并屡立战功。不论是讨伐阴谋篡夺帝位的贼臣桓玄，还是剿灭扰乱天下的孙恩、卢循、徐道覆，他都是身先士卒，所向摧破。等到宋台建立，他又辅佐世子刘义符镇守京口。义熙十二年，高祖北伐，以他为前锋，大军所到之处，姚泓的城守望风降服，前后攻城破垒甚多，俘获四千余人。部下建议他尽杀俘虏以成京观，檀道济以“伐罪吊民”为名全部释放了俘虏，于是西北戎夷感激涕零，奔走相告，络绎归顺晋军者甚众。——古时胜者为了耀武，常常堆积敌人尸，封土而成高大的坟丘，谓之京观。
后来世子刘义符改镇江陵，刘裕又以檀道济为辅佐，兼任南蛮校尉。高祖代晋称帝之后，以檀道济为护军将军，加散骑常侍，让他率军守卫台城，同时领石头戍事——即兼任台城西的军事要地石头城的守卫事务。因前后屡立大功，他由男爵晋封为公爵，食邑二千户，其后又兼任京都的地方长官丹阳尹。高祖病重期间，他和徐羡之、傅亮、谢晦一同入侍医药；高祖驾崩，少帝刘义符继位，由徐、傅执掌朝政，檀道济出外任镇北将军、南兖州刺史，镇守广陵。
时值魏人乘丧侵宋，包围了青州刺史竺夔所戍守的东阳城；竺夔告急，檀道济与王仲德急救东阳。到了东阳，魏军已经闻声撤军，他们也退回广陵。徐羡之等人将废黜庐陵王义真为庶人，告诉他，他坚执不可，但他的意见最终未被采纳。
徐、傅等已废黜少帝而刘义隆还在江陵，台城虚留帝位长达七十余日，他率领军队守卫着朝堂。及元嘉三年西讨谢晦，前锋到彦之战败，遇到檀道济率军到达，西军人情惶恐，最终不战而溃。事平，檀道济升任征南大将军兼任江州刺史，食邑增封千户——将军而加“大”者，在刘宋王朝道济尚属第一人。元嘉八年，到彦之北伐失败，朝廷加檀道济都督征讨诸军事，率大军北讨；檀道济率军转战于济水上，连战二十余日，前后数十战，宋军多胜。后来宋军到达历城，因为粮运断竭而全师返回，回师后檀道济进位为司空，仍镇守寻阳。
自晋末以来，除了已经代晋建宋的高祖刘裕外，朝中建立大功者无人能与檀道济相比。檀道济威名日盛，他的追随者往往也都身经百战，像人们视作关、张的薛彤、高进之一类智勇双全的猛将，在檀道济麾下又何