李泌谈笑间替朝廷除掉了从鄜州（今陕西延安富县）叛归的四千淮西军，让原本欣赏他的德宗赞佩不已。
贞元三年（787年）六月，时年六十五岁的陕虢观察使李泌出任中书侍郎、同平章事，正式成为大唐宰相！
其实这一职务早在肃宗灵武称帝时就有意颁授于他，但被他坚决拒绝。代宗继位也想拜他为相，他仍未同意。如今步入花甲之年他不再拒绝，这大概缘于相较起肃宗、代宗时期权臣当道的恶劣局面，德宗乾纲独断，没人再会陷害忌恨他，他可以按照自己的想法为天下、为朝廷做些实事吧！
李泌学识渊博，在他身上既有儒家所倡治国平天下的影子，也有道家无为而治、后发治人的智慧。这让他在处办军政事务时很少受到传统习俗的束缚，注重结果的工作方式，信马由缰的思维过程，让那些看似无法挽回的危局在他眼中都能轻松化解，不留半点痕迹。
李泌上任遇到的第一个难题，就是如何消解德宗对李晟、马燧两大功勋名将的猜忌防范。
六月二十一日，李泌首次以宰相身份，与李晟、马燧、柳浑共同参见德宗。
德宗微笑着对李泌说：“卿当年在灵武就应做宰相了，是卿自己拒绝不受。而今朕终于用卿为相，想与卿做个约定，希望卿切勿私下报复当年的仇人，卿的恩人朕自会替卿报答。”
李泌施礼谢恩，答道：“臣信奉道教，从不与人结怨。更何况像李辅国、元载这些想谋害臣的人早已死去多时，至于对臣有恩的，他们或已官爵显贵，或已病逝凋零，不用臣再报答。”
德宗说：“话虽如此，对你有小恩的也应报答啊！”
李泌答：“这些事并不重要，可以先放放再说。臣今天也想借机与陛下做个约定，您看可以吗？”
德宗说：“那有何不可！”
李泌：“臣希望陛下不要伤害功臣！”
此话一出，德宗有些诧异的看向李泌。
李泌接着说：“臣受陛下厚恩，陛下对臣一直坦诚相待，所以臣才实话实说。李晟、马燧都是我唐功勋大臣，听说近来有人诋毁他们，我知道陛下一定不会相信，然而臣今天当着他们二人的面讲出来，也是为了让他们不要自生疑虑。”
“万一陛下不慎听信了谗言加害他们，那么宿卫将士、藩镇节帅都将惋惜愤怒，变乱恐怕又会发生！”
“身为人臣，能受到圣上信任是最大幸运，有官无官并不重要！当年臣在灵武没有任何官职，将相却全要接受臣的指挥。陛下加封李怀光为太尉，反使他心生疑惧，以至起兵作乱。这些都是陛下亲眼所见！”
“如今李晟、马燧位极人臣富贵已足，倘若陛下能对他们坦坦诚诚，让他们不至为了身家性命担忧，国家有事派他们统兵征讨，无事让他们入朝请安，君臣之间将是何等快乐安然！”