”玄宗此时正沉迷于声色犬马，听闻李林甫的建议，觉得颇有道理，便欣然采纳。
这一政策的推行，让一批胡将登上了大唐的政治舞台。安禄山便是其中最具代表性的人物。安禄山出身营州柳城的胡人，早年因骁勇善战被幽州节度使张守珪提拔，后来又因善于逢迎，得到了玄宗的青睐。李林甫见安禄山粗通文墨，且出身低微，料定他无法入相，便对其多加提拔，先后让他兼任平卢、范阳、河东三镇节度使，手握十五万重兵，势力遍及东北。
安禄山对李林甫极为敬畏。每次入长安面圣，安禄山必先去拜访李林甫。李林甫与他交谈时，总能精准地洞察他的心思，哪怕是安禄山心中一闪而过的念头，李林甫也能随口点破。安禄山每次见李林甫，都吓得汗流浃背，哪怕是寒冬腊月，也常冷汗湿透衣衫。
但李林甫没料到，他为了巩固自身权力而推行的“重用胡将”政策，却为大唐埋下了一颗定时炸弹。胡将虽善战，却多缺乏中原人的忠君思想，手握重兵后，极易滋生野心。尤其是安禄山，在李林甫在世时，因敬畏其手段而不敢轻举妄动，但他对大唐的野心早已生根发芽，只待时机成熟便要爆发。
从开元二十四年（736年）拜相，到天宝十一载（752年）病逝，李林甫在相位上坐了整整十九年。这十九年里，他凭借“口蜜腹剑”的手段，排挤了一批又一批贤能大臣。
为了掌控朝政，李林甫还严密控制言论。他曾对朝中大臣说：“诸君见陛下圣明，法令修明，何必要多言？君不见立仗马乎？食三品料，一鸣辄斥去，悔之何及！”这话便是警告大臣们少言多做，不要轻易进谏，否则便会像那些“立仗马”一样，稍有不慎便被罢官。此后，朝中大臣多噤若寒蝉，很少有人再敢直言进谏，玄宗听到的声音，大多是李林甫筛选后的“顺耳之言”。
玄宗对李林甫的信任，也到了无以复加的地步。天宝年间，玄宗沉迷于杨贵妃，将朝政几乎全部托付给李林甫。李林甫每次奏事，都先揣摩玄宗的心意，再顺势进言，从未忤逆过玄宗。一次，玄宗因关中旱灾，欲迁往东都洛阳，李林甫却上奏：“陛下，关中虽旱，但臣已让人核查，今年粮食仍有结余，足以供应宫廷。若迁往东都，不仅劳民伤财，还会让百姓不安。臣愿亲自负责粮食调配，确保陛下与百姓无忧。”玄宗听罢大喜，觉得李林甫“忠君体国”，便打消了迁都的念头，对他更加信任。
李林甫的权势，也渗透到了宫廷的各个角落。他与宦官、妃嫔交好，宫中稍有风吹草动，他便能第一时间知晓。太子李亨因多次被李林甫打压，终日惶恐不安，甚至不敢与外臣过多交往。朝中官员的任免，也多由李林甫决定，凡是他推荐的人，多能得到重用；凡是他的政敌，轻则被贬，重则丧命。当时的长安城中，百姓私下里都称李林甫为“李相公”，却无人敢直呼其名，更无人敢议论他的是非。
但权力的巅峰，往往也是危机的开始。天宝后期，李林甫的身体日渐衰弱，而杨国忠的势力却在悄然崛起。杨国忠是杨贵妃的堂兄，因杨贵妃的关系得到玄宗的提拔，官至御史大夫。杨国忠素来与李林甫不和，李林甫虽多次打压杨国忠，却因玄宗对杨贵妃的宠爱，始终无法将其彻底扳倒。
天宝十一载（752年），李林甫病逝，享年七十五岁。玄宗追赠他为