吏部侍郎李林甫奸滑狡诈,与宦官以及后宫中的嫔妃交往甚密,让他们暗中伺察玄宗的行动,掌握了他的一举一动,因此每次上朝奏事,常符合玄宗的意图,深受玄宗的喜爱。当时武惠妃在后宫的嫔妃中最受玄宗的宠爱,生子为寿王李清,诸皇子难以为比,因此太子渐渐被疏远了。李林甫于是托宦官告诉武惠妃说,自己愿意尽力保护寿王。武惠妃听后十分感激他,就暗中为助,因此李林甫被升为黄门侍郎。
先前,玄宗想要任命李林甫为宰相,向中书令张九龄征求意见,张九龄回答说:“宰相一身关系到国家的安危,陛下如果任命李林甫为宰相,恐怕以后要成为国家的祸患。”玄宗不听。当时张九龄因为有文学才能,正受到玄宗的器重,李林甫虽然怨恨他,但表面上还不得不奉承他。这时玄宗做皇帝已有多年,生活逐渐奢侈腐化,懒于处理政事。而张九龄遇到事情,不论大小(觉得有不对之处)都要与玄宗争论。李林甫却善于窥伺玄宗的意图,日夜想着如何陷害中伤张九龄。……于是玄宗罢张九龄政事。任命李林甫兼中书令。
玄宗即皇帝位以来,所任用的宰相中,姚崇善于沟通各方面的关系,宋璟执法严厉,张嘉贞重视吏治,张说善于写文章,李元绂与杜暹能够节俭治国,韩休与张九龄个性直率,这些人都有所长。张九龄因罪被罢相之后,朝廷中的百官从此都明哲保身,没有人再敢于直言。
李林甫想要堵塞住玄宗的视听,自己大权独揽,就把谏官们召来明确地告诉他们说:“现在有贤明的君主在上,群臣顺从皇帝都顾不过来,哪里还用得着再多说什么?你们难道没有看见那些立在正殿下面用于仪仗队列的马匹吗?虽然吃的是三品等级的粮料,但如果要嘶鸣叫唤,就要被剔除下去,到那时后悔怎么来得及?”补阙杜琎曾经向玄宗上书谈论政事,第二天就被贬为下邽县令。从此玄宗的谏争之路断绝了。
李林甫严格地遵守各种规则,对于百官的升迁与任命,李林甫都按照固定的制度办事,虽然有的人有特殊的才能,也不免老死与难以发挥才智的职位上,而那些善于阿谀奉承搞歪门邪道的钻营者,却能够从其他门路得到打破常规的重用提拔。李林甫的城府极深,人们难以摸透他的心思。他善于当面奉承,而暗中陷害,从来不露声色。凡受到玄宗优待的人,开始时李林甫总是跟他们相接拉近关系,等他的地位权势稍微接近自己时,就千方百计地除掉他。就算是那些老奸巨滑的官吏,也逃不脱他的手段。