都城，升他为“上军佐”，成了晋国六卿之一——这六卿可是晋国最高级的官员，管着军政大权，荀林父这时候真正进入了晋国的权力核心。
到了晋景公继位那年，晋国的中军将（也就是六卿之首，执掌全军大权）病逝了。晋景公召集大臣们商量谁来接任，有人推荐先氏的先縠，说先縠勇猛；有人推荐赵氏的赵朔，说赵朔是名门之后。这时候，上卿士会站出来说：“荀林父在边境多年，懂军事，知民心，而且做事稳重，不会冒进。如今咱们需要的是能稳住局面的将领。”晋景公也记得荀林父在边境的功劳，就拍了板：“就依士会之言，任荀林父为中军将，执掌晋军！”
消息传到荀林父家里，他皱着眉头跟家人说：“如今楚庄王势头正盛，郑国、陈国这些小国又摇摆不定，晋国朝堂上又有不少人不服气，这中军将不好当啊！”话是这么说，他还是接了印信——既然国君信任，他就得扛起这份责任。这年秋天，荀林父正式走马上任，第一件事就是整顿军队：把边境的老兵调回都城训练新兵，把纪律松散的部队重新编伍，还制定了“行军令”“交战令”，规定什么时候吹号进军、什么时候敲鼓收兵，谁要是违抗命令，不管出身多高贵，都要按军法处置。
这荀林父刚当上中军将，还没等他把军队整顿利索，南边就传来了消息——楚国派大军围攻郑国，郑国快扛不住了，派人来晋国求援。
晋景公三年（公元前597年），楚国国君楚庄王亲自率领大军，围攻郑国都城新郑。这郑国夹在晋楚之间，向来是“墙头草”，前几年还跟晋国结盟，这时候楚国打过来，郑国国君郑襄公一开始还硬撑，可楚军围着新郑打了三个月，城里的粮食快吃完了，士兵也死伤不少，郑襄公没办法，只好光着膀子、牵着羊，出城向楚庄王投降，还答应以后听楚国的。
消息传到晋国都城绛邑，晋景公急了——要是郑国真投靠楚国，那楚国在中原就多了个落脚点，对晋国是个很大的威胁。他赶紧召荀林父进宫，下令：“你率晋军主力，再联合宋、卫、曹三国的军队，去救郑国！一定要把郑国拉拢过来，不能让楚国得逞！”
荀林父不敢耽搁，当天就点兵——晋国当时有上、中、下三军，每军一万两千五百人，再加上三国援军，总共差不多五万人，分乘一千多辆战车，浩浩荡荡向南开去。大军走了十几天，到了黄河岸边，正要渡河，荀林父派去郑国的探子回来了，带来个坏消息：“郑国已经跟楚国签了盟约，楚庄王还在新郑城里喝了庆功酒，现在楚军正往南撤呢！”
荀林父一听，心里就琢磨开了：楚军刚打了胜仗，士气正高，咱们这时候追上去，要是打起来，不一定能赢；而且郑国已经降楚，咱们去救，人家说不定还不欢迎，不如先撤军，等楚国撤军后，再派人去说服郑国回心转意。他把这想法跟手下的将领们说了，大多数人都同意，说：“中军将说得对，咱们没必要跟楚军硬拼，撤军是上策。”
可偏偏有个人不同意，谁呢？中军佐先縠。这先縠是先氏家族的人，先氏在晋国是老牌贵族，先轸、先且居都当过中军将，先縠自恃出身高，又觉得自己勇猛，一直不服荀林父当中军将。这会儿听荀林父说要撤军，他立马跳起来反驳：“不行！晋国之所以能当霸主，就是因为咱们敢跟楚国打仗！现在楚军刚打了郑国，肯定兵困