李泌到灵武，第一件事，就是说服肃宗李亨任命皇长子李豫，为天下兵马元帅，以避免皇位继承权和军事处置权发生冲突，造成唐朝战时政局不稳。那时，军中说肃宗是“黄衣圣人”，李泌是“白衣山人”。李泌的这种神仙形象，令肃宗很不舒服。他让李泌换上紫颜色官服，宣布他为元帅广平王（李豫）行军司马，说只有等到把叛乱镇压下去了，他才可以去逍遥。公元757年，唐军攻克西京，李泌便提出到衡山隐居。其实，他是因为肃宗听信谗言，杀了次子李倓，才要离开朝廷的。

　　公元763年，安史之乱即将平定，太子李豫在一场宫廷政变中即皇帝位，是为代宗。过了5年，李豫召李泌进京，但是对他只肯接受翰林学士的名头很不甘心，就勉强他食酒肉，娶妻生子。两年之后，因为宰相元载的排斥，李泌被派到地方上去做判官。临走时，李豫跟他说，等除掉元载再召他回京。又过了8年，元载被杀，李泌再次回到京师。可不久，又因为宰相常衮的排斥，李泌再次被派到地方上做团练使，后调任州刺史。此时的李泌，其实已不再做他的神仙梦了，而是希望留在朝廷，好有一番大的作为。

　　代宗去世，太子李适继位，是为德宗。德宗不许藩镇世袭，激起一波又一波的节度使反叛。784年，德宗逃往奉天（今陕西乾县），而后又逃往汉中。其间，德宗想起了李泌，重新召他回朝廷。刚巧，叛军主帅朱泚，此时在唐军和土蕃的夹击下，被打得大败。李泌遂接受陆贽的建议，宣布赦免追随朱泚叛乱的其他节度使，并力排众议，

　　他主张对与朱泚勾结最紧密，危害最大的河中节度使李怀光，坚决予以荡平。荡平李怀光，遂使唐朝在军事上取得了对藩镇的优势。

　　德宗请吐蕃出兵夹击朱泚时，曾约定将安西、北庭都护府的辖地作为对吐蕃的酬谢。李泌认为，安西和北庭都护府，控制着西域五十七国和突厥的十个大姓，是善战者汇集之地，阻碍着吐蕃势力东侵；一旦为吐蕃所控制，唐朝的关中就不稳了；何况吐蕃向来不讲信用，唐朝真不必跟它讲信用。为了使唐朝摆脱吐蕃的威胁，李泌还为唐朝制定了利用回纥、南诏以钳制吐蕃的计划。公元788年，唐朝实现了与回纥和亲，使回纥同意为唐朝牵制吐蕃。按照李泌的设想，公元793年，南诏国也脱离了吐蕃，与唐朝重修旧好。从此，吐蕃不再能够威胁唐朝的安全。

　　鉴于对历来藩镇为患的疑惧，德宗在平定诸节度使的叛乱之后，对诸如李晟、马燧、浑瑊这些在平叛中建立了卓著功勋的武臣抱有深深的敌意。他不仅削去了李晟、马燧的军权，对李晟更是百般猜防。战功卓著的武将们为此感到愤怒、心寒和疑虑，不再肯为朝廷出力。而不断加剧的唐朝党争，也于此时趋于白热化。

　　为了能够缓和、平衡朝廷上长久以来紧张的人事关系，德宗决定任命李泌为宰相。下达任命那天，德宗对李泌说，当年在灵武他就应该做宰相了；并煞有介事地要求李泌不要报私仇，说如果有恩要报，倒是可以由他这个做皇帝的来报。李泌明确向皇帝表示，自己从来就不记仇；而那些跟自己关系好，或有恩于自己的人，要么已享有高官厚禄，要么不知道飘零何处，所以也无恩可报。他还当着李晟、马燧的面，直言不讳地对德宗说，将军们立了大功，却有人进谗言要害他们；皇帝固然英明，但为了使将军们放心，必须保证不加害他们；一旦发生这样的事，那宫中的宿卫，藩镇的节度使，都会被激怒的，京城内外会再生祸乱；做皇帝的人，决不能因为人家立了大功就心生疑忌，大臣也就不会因为官做得太大而自危了。德宗当即承诺，自己决不会做这种事。一场君臣冲突的危机就此化解。

　　公元789年,李泌去世，任宰相不足两年。在这不足两年的时间中，他是豁出命来要做“忠臣”的。德宗要更换太子，李泌与他争执了几十次，说自己老了，不怕死；而身为宰相，因谏诤而死，是死得其所。德宗对于以往用人不当，总说是天命如此。李泌就告诫他，君主和宰相都是造命（治理国家）的；讲天命，就用不着礼、乐、刑、政了；桀、纣都喜欢讲天命；君王讲天命，就是桀、纣。

　　李泌一生，大多数时候都做着神仙梦。当年肃宗杀李倓，他曾发誓永远归隐江湖，“不近天子左右”。但是，他最终还是希望能够于世事有所匡救。他终于接受宰相之职，就是想成为一个造命者，而不愿坐视天下事业就此一败涂地。身为宰相，他不再顾惜性命，真正把天下国家放在了首位。