李迪字复古，先世为赵郡人，后来移住幽州。曾祖父李在钦，为躲避五代战乱，又移住濮州。李迪深厚稳重有才学，曾经携带他所写的文章拜见柳开，柳开认为他是一个奇才，并说：“李迪是辅佐人主之才。”
推举为进士第一，授予将作监丞，历任徐州、兖州通判。改任秘书省著作郎、直史馆，任三司盐铁判官。东封泰山，又任兖州通判，曾经因为解送开封府进士失当，被贬为监海州税。改为右司谏，起任郓州知州，被召任纠察在京刑狱，升任起居舍人，安抚江州、淮州，以尚书吏部员外郎任三司盐铁副使，提升为知制诰。
真宗巡幸亳州，李迪为留守判官，于是任亳州知州。逃亡的士卒合伙抢劫城市，朝廷派兵进行追捕，长久没有结果。李迪到达亳州，撤除所有朝廷派兵，暗中派人侦察弄清了盗贼活动区域和住所，派遣骁勇之士，捉拿盗贼，将他们斩首示众。回京，恰遇口角厮口罗发动叛乱，真宗忧虑关中，将李迪召对长春殿，升任右谏议大夫、集贤院学士、知永兴军。城中有许多游手好闲之辈，经常作乱犯法，李迪上奏捉拿贼首，派人送往朝廷。李迪调任陕西都转运使，入京城成为翰林学士。
曾经于假日回家省亲，忽然接到朝廷诏令问对于内东门，真宗拿出三司使马元方所上奏的每年朝廷收入和支出的数目给李迪看。这时每年都要发生虫灾和旱灾，真宗询问用什么办法来补救损失，李迪请求拿出内藏库所藏来资助国家急需，那么赋税征敛宽松，老百姓不会感到烦劳。真宗说“：朕打算让李士衡接替马元方，等李士衡到任后，朕会拿出金帛数百万借给三司。”李迪说“：天子的财产没有内外之分，希望下诏将金帛赐予三司，来显示皇帝的恩德，又何必说借呢。”真宗十分喜悦。李迪又说“：陛下东封泰山时，下敕令所过之处不要砍伐树木清除道路，将驿舍或州治的官署作为行宫，仅仅派人修饰休息罢了。到巡幸汾州、亳州，土木劳役，超过往年百倍。如今虫旱之灾，大概是上天降下旨意警告陛下。”真宗认为很正确。
又一天，李迪被召到龙图阁应对，真宗命李迪起草诏书，慢慢地对李迪说：“曹玮在秦州，多次请求增加兵力，没有等到朝廷派兵，就辞去了秦州之事，只是害怕而已。谁可以替代曹玮呢？”李迪奏对说：“曹玮知道口角厮口罗打算叛乱，并要窥探关中，因此请求增加兵力加以防备，不是害怕。而且曹玮有谋略，诸将都不能和他相比，谁能代替他呢？陛下如派遣大军，难道不是将加封玉皇称号，忌讳从宜秋门出兵吗？如今关右兵力多，可以派兵奔赴曹玮驻处。”真宗因而问李迪关右应布置多少兵力，李迪说：“臣下过去在陕西，用一个小本子记载了兵力和军粮的数量以备将来调发，如今这本小册仍放置在口袋中。”真宗要李迪拿出来，叫黄门侍郎取出纸和笔，具体地陈述某处应当留兵若干，其余的全部开赴塞下。真宗对李迪说：“这真是廉颇、李牧在禁中。”
不久，口角厮口罗果然进犯边境。秦州刚出兵，又召见李迪问说：“曹玮这次能取胜吗？”李迪说：“一定胜利。”居留数日，上奏到达，曹玮与敌人在三都谷交战，果然大获全胜。真宗对李迪说：“爱卿又怎么知道曹玮一定会取胜呢？”李迪说“：口角厮口罗的军队远道而来，派遣间谍放言说某一天到秦州会合庆祝胜利，来激怒曹玮。曹玮按兵不动，原地等待敌人到来，这是以安逸之军对待疲劳之军。臣下根据这点知道曹玮一定取胜。”真宗因此更加器重李迪，从此以后打算对李迪委以重任。
起初，真宗打算立章献后，李迪多次上疏规劝，认为章献后出身贫寒，不能作为皇后。章献从此十分恨李迪。天禧年间(1017-1021)，授予给事中、参知政事之职。周怀政的被诛，真宗十分恼怒，打算连同太子一起责罚，大臣们都不敢劝谏。李迪从容上奏说“：陛下有多少个儿子，却打算执行这一办法？”真宗完全恢复了理智，因此只诛杀了周怀政等人。仁宗为皇太子，李迪被任命为太子太傅，李迪以太宗时没有设立保傅，只兼任太子宾客，诏令皇太子对待宾客要像对待师傅一样优礼有加。兼任礼部侍郎。寇准被罢去宰相，真宗打算让李迪任宰相，李迪坚决辞谢。一天，在滋福殿应对，不久，皇太子出门拜见说：“陛下用宾客当宰相，怎么辞谢呢？”真宗对李迪说：“还要辞谢吗！”授职吏部侍郎兼太子少傅、同中书门下平章事、景灵宫使、集贤殿大学士。
起初，真宗身体不适，寇准议奏皇太子总管军国之事，李迪赞同此策，丁谓认为不妥，说：“等到以后陛下身体康复，朝廷又将怎样处理此事呢？”李迪说“：太子监督国事，难道不是古已有之的制度吗？”据理力争，于是皇太子在资善堂听取日常国事，其他事情都听从皇上旨意。寇准被贬以后，丁谓逐渐独断专权，以至于给官吏授职、任命官员都不上报朝廷。李迪愤怒地对同僚们说“：我是从布衣出身而官至宰相的，只要能报答国家，即使一死也毫无遗憾，又怎么能依附权贵奸佞来考虑自己的安乐呢？”从此与丁谓不和。这时朝廷议论二府都进官秩兼东宫官，李迪认为不行。丁谓又准备任用林特为枢密副使，而升迁李迪任中书侍郎兼尚书左丞。按过去的惯例，宰相没有兼任尚书左丞的。不久真宗御驾长春殿，拿出制书放在床榻前，对辅佐大臣说“：这是你们兼任东宫官的制书。”李迪进言说“：东宫官之类不应当增置，臣下不敢接受这一任命。宰相丁谓欺骗皇上玩弄权术，偏私林特、钱惟演而嫉妒寇准。林特的儿子杀人，事情被压住而不处治，寇准无罪被罢官，钱惟演身为姻家干预朝政，曹利用、冯拯互相结成朋党。臣下愿与丁谓一起免官，交付御史台弹劾。”真宗恼怒，留下制书没有下达，李迪降为户部侍郎。丁谓再次上对，传达真宗口头诏令入中书省视事，李迪离京知郓州。
仁宗即位，太后参预朝政，将寇准贬到雷州，以李迪为寇准朋党，李迪被贬为衡州团练副使。丁谓派人迫害李迪，有人讥讽地对丁谓说：“李迪若被贬致死，你认为天下人会如何评价他呢？”丁谓说“：以后诸生记载这件事，只不过说‘天下怜惜他’罢了。”丁谓事败，李迪起职为秘书监、知舒州，历任江宁府尹，兖州、青州知州，又任兵部侍郎、知河南府。到京师上朝，这时太后在帘后对李迪说：“你一直不想让我参预国事，恐怕是一种过失。如今我将天子抚养成人并登皇位，你以为怎么样？”李迪对答说“：臣下蒙受先帝的恩德，如今见天子聪明通达事理，臣不知道皇太后的大德，到了这种地步。”太后也很高兴。以尚书左丞知河阳，升任工部尚书。太后去世，奉召任资政殿学士、判尚书都省。不久，又授予同中书门下平章事、集贤殿大学士。
景..年间(1034-1038)，范讽获罪，李迪由于与范讽为姻亲而被获罪，罢为刑部尚书、知亳州，后又改任相州知州。不久又任资政殿大学士、翰林侍读学士，留任京师。李迪一直讨厌吕夷简，于是上奏吕夷简私自结交荆王赵元俨，曾经补门下僧惠清为守阙鉴义。吕夷简请求辩护，诏令对吕夷简加以审讯，都是李迪在中书所行之事，吕夷简因而没有参预祭祠神殿。李迪降为太常卿、知密州。又为刑部尚书、知徐州。李迪上奏自己所在之地邻近兖州，打算巡视州县顺便祭祠大山来为皇上祈求丰年、皇子。仁宗对辅臣说：“大臣应当替百姓访问疾苦，祈祷对李迪不适宜，不要让他前往。”以后，李迪又改任户部尚书、知兖州，又授予资政殿大学士。
赵元昊攻打延州，因为宋朝军备早已废弛，守将有的以其他名义来逃避敌兵的攻打。李迪愿意防守边疆，诏令不许，但十分欣赏李迪的心意。授予彰信军节度使、知天雄军，调任青州。第二年，驻守本镇，请求告老回乡，以太子太傅致仕，归濮州。后来李迪之子李柬之为侍御史知杂事，侍奉李迪来到京师。仁宗多次派遣使者前来慰问，并想召见他，李迪以身体有病而辞谢。去世，终年七十七岁。追赠司空、侍中，谥号“文定”。仁宗以篆书撰写了他的墓碑，叫作《遗直之碑》，又将其所葬之处邓侯乡改名为遗直乡。李迪之子有李柬之、李肃之、李承之、李及之，孙子李孝寿、李孝基、李孝称。