李沆，字太初，氵名州肥乡人。他的曾祖叫李丰，任泰陵县令。他的祖父叫李滔，任氵名州团练判官。他的父亲叫李炳，跟随邢州主帅薛怀让，征召为观察支使。薛怀让调同州任职，李炳又跟随他任管书记，历任..州、凤翔判官，升任殿中侍御史、舒州知州。宋太祖征伐金陵，沿淮一线供给，惟有舒州供给尤其甚多，因功劳加官侍御史，后死去。
李沆年少时喜欢学习，气量很大，李炳曾对别人说“：这个儿子他日一定会官至公辅。”太平兴国五年(980)，李沆中进士甲科，任将作监丞、潭州通判，升任右赞善大夫，转任著作郎。宰相府召他考试写约束边将的诏书，上奏给皇上后，宋太宗看后很高兴，授任直史馆。雍熙三年(986)，右拾遗王化基上书亲自推荐，太宗对宰相说“：李沆、宋..，都是有才能的人。”即刻命中书和王化基一起召他们考试，一并授他们右补阙、知制诰。李沆职位最低，特别升其职于上，赐给各人钱百万。又以李沆素来贫困，多欠别人的钱，另外赐钱三十万给他偿债。雍熙四年(987)，李沆与翰林学士宋白一起知贡举。公开指责议论这事的人虽然很多，而皇帝没有归咎于李沆。升李沆任职方员外郎，召他进入翰林院当学士。
淳化二年(991)，李沆判吏部铨。他曾侍奉音乐宴会，宋太宗用目光看着他说“：李沆风度端庄稳正，确实是显贵的人。”淳化三年(992)，授李沆给事中、参知政事。淳化四年(993)，以本官罢免，逢一日、五日朝见皇上。没多久，李沆遭遇母亲丧事，未等服丧期满就被起用，于是外任升州知州。尚未成行，又改授知河南府。宋真宗赵恒进升为皇储时，李沆升任礼部侍郎兼太子宾客，太宗诏东宫太子赵恒以师傅之礼对待李沆。宋真宗赵恒即皇位，任命李沆为户部侍郎、参知政事。咸平(998～1003)初年，李沆以本官平章事、监修国史，改任中书侍郎。
逢契丹侵犯边境，宋真宗亲自北征，命令李沆留守京城，京城肃然。真宗回京城，李沆在城郊迎接，真宗命他坐下摆好酒，连连慰劳他。李沆接连加职至门下侍郎、尚书右仆射。真宗询问所适宜先采取的治国方法。李沆说“：不任用那些浮华浅薄的和好事的人，这是最先要做的。”真宗问这些人指谁。李沆说“：像梅询、曾致尧这班人就是这类人。”后来曾致尧任副职同温仲舒安抚陕西，曾在..门向皇帝奏言说温仲舒这人不值得与他共事。那些浅薄小人对这事无不称快，李沆很不高兴，于是用别人任温仲舒的副职，罢免曾致尧。真宗曾说起唐代之人结党难以控制，就使王室衰微变弱，大概是奸邪难以辨别吧。李沆答说“：谄媚之人的说话像忠心，狡诈之人说话像可信，至于像卢杞蒙蔽欺骗唐德宗，李勉认为他是真正的奸邪之人，就是这样。”真宗说“：奸邪之人的形迹，虽然说难辨别，然而过久了会自己败露出来。”
一天晚上，真宗派使持他的手诏想升刘氏为贵妃，李沆当着使者用蜡烛烧掉诏书，凑近使者说：“你只说李沆认为不行。”皇帝的这个主张就此停办了。驸马都尉石保吉请求任使相，真宗又问李沆，李沆说：“执行奖赏制度，须有本人亲身干的成绩。石保吉凭借亲戚乡里的缘故，没有攻城作战之功，依靠我授以官职，恐怕会使众人的非议到处流传。”另一天真宗又再三问起石保吉的事，李沆像当初那样坚持原议，该事就停止了。真宗因李沆没有秘密奏折，对他说：“别人都有秘密奏言，你独独没有，为什么？”李沆回答说：“我蒙皇恩授以宰相职，公事就公开说明它，何必用秘密上奏的方式？一般秘密奏言的大臣，不是说坏话的人就是谄媚之人，我平常就憎恨他们，怎么能明知是错还是照样去做。”
当时李继迁反叛宋朝廷已很久，兵力日益强盛，有图谋夺取朔方的意图。朝廷困扰于无根据的牵扯，朝廷内外都认为灵州是兵家必争之地，如果失去灵州，那么它周围各郡都不能守住。皇帝对此颇为困惑，就向李沆询问。李沆说：“李继迁不死，灵州就不能为朝廷所占有。不如派使者秘密诏令各州将领，命令分别统领军队和百姓使堡垒空着而归到一处，若这样，那么关右的百姓就可得到生息了。”其时众人的意见各不相同，没立即采纳李沆的建议，没多久灵州就陷落了，真宗从此更加看重李沆。
李沆任宰相，王旦任参知政事，因为西北边地用兵，有时到天黑才吃饭。王旦叹息说“：我们这班人怎么才能坐致太平，能够优闲自得没事呢？”李沆说：“稍微有些担忧辛劳，足作为警戒。将来四方宁静，国家未必没有大事发生。”后来契丹与宋和亲，王旦问这怎么样，李沆说“：好当然是好事，然而边疆的忧患停止后，恐怕皇上渐渐产生奢侈放纵的想法。”王旦对此不以为然。李沆又拿四方水旱盗贼之事上奏真宗，王旦认为这些细小的事不值得烦劳皇帝处理。李沆说“：皇上年少，应当让皇上知道四方的艰难。不这样，皇上血气方刚，大加留意声色犬马之事，那么动土木、兴甲兵，向宗祠求福等事就会发生了。我年老了，等不到看见这些，这是你参知政事将来的忧患。”李沆死后，宋真宗认为契丹已经修和，西夏纳款归顺，就封岱山、祭汾阴，大规模营建宫观，春秋打猎的制度被破坏，这些事没有闲停下来的时日。王旦亲眼看见王钦若、丁谓等人所作所为，想向皇帝进谏却又已经与他们一起共事，想离去却又念及皇帝待己很好。王旦这才认识到李沆事先预知很远，并叹息说“：李文靖真是圣人。”当时就称他为“圣相”。
寇准与丁谓友好，多次认为丁谓有才而向李沆推荐，李沆不用丁谓。寇准问李沆，李沆说：“看他为人处事，可以让他职位居于别人之上吗？”寇准说“：像丁谓这样的人，宰相你一直能压抑他使他居于别人之下吗？”李沆笑着说“：将来你后悔，就会想起我的话。”寇准后来被丁谓所排挤，才信服李沆的话。
李沆任宰相，接待宾客，经常很少说话。马亮与李沆同一年出生，又与他的弟弟李维交好，对李维说：“外面议论说你大哥是没口的瓢葫芦。”李维趁空把马亮的话告诉了哥哥。李沆说“：我不是不知道呵。然而现在的朝士得以入殿议事，皇上封爵论奏，全无阻塞蒙蔽，政令多能下达到各级部门，大家都可看见它。比如国家大事，北边有契丹，西边有夏人，我白天晚上逐项商议所要防备抵御的策略，我没有不详细探究的。缙绅如李宗谔、赵安仁，都是当时杰出的人才，我与他们谈论，尚不能启发我的思想，其余的新进仕宦之子，他们坐、起、拜、揖，尚且乱了典章顺序等级，入席必定自论功劳最多，以希求得到宠爱奖赏，又有什么策划值得与他们接触交谈呢？如果委屈自己的意愿乱说就是世人所说的像被笼子和罩子网住后随遇而安，笼罩之事，我是不愿承担的。”李沆又曾说“：处在重要的职位实在没有益处，朝廷内外官员所陈述的利害，都要上报，确定是批准还是不批准，用以报答国家。国家的防御制度，连细小的都得准备好，或者向众宣示他们的陈请，实行一件事，就要受到很多伤害。陆象先说：‘庸人扰之’就是这样。奸邪小人只图一时升官发财，哪里考虑到会虐害人民呢？”李沆任宰相，经常读《论语》，有的人问他，李沆说“：我任宰相，像《论语》中说的‘节用而爱人’，使民以时，尚没能执行。圣人的话，终身诵读它是可以的。”
景德元年(1004)七月，李沆在殿廷等待上朝的时刻，疾病发作而回家，真宗诏令太医诊断病情，来安抚问候的使者相望于道。第二天，真宗来他家里亲临慰问，赏赐银子五千两。皇帝刚回宫而李沆就死了，终年五十八岁。真宗听说李沆死讯很震惊、叹息，急忙起驾再去李沆家，极度悲哀地痛哭，对随从说“：李沆做大臣，忠心善良纯正厚道，自始至终都一样，怎么会想到他不享有长寿！”真宗说完又流下了泪，停朝五天，赠李沆太尉、中书令，谥号文靖。朝廷录用李沆弟弟国子博士李贽任虞部员外郎，光禄寺丞李源任太子中舍、屯田员外郎，直集贤院李维任户部员外郎。录用李沆之子李宗简任大理评事。录用李沆外甥苏昂、妻兄之子朱涛一起同进士出身。乾兴元年(1022)，宋仁宗赵桢登皇位，诏令李沆的灵位在宋真宗的庙庭中附带享受祭祀。
李沆性格直爽诚信，家居时品行美好严谨，言谈没有琐碎的空话，识大体。任职时谨慎细致，不追求名声荣誉。行动遵守规章制度，没有人能徇私办事。李沆辞去官职，整天正襟危坐，未曾斜靠着。在封丘门内建有住宅，大厅前只容许有马打转之地。有人说这太狭窄，李沆笑说“：这住宅要传给子孙，这里作为宰相官署大厅确实小了，作为太祝、奉礼官的大厅已经够宽了。”甚至对于墙塌壁坏，他也不介意。堂屋前的药栏坏了，其妻告诫守屋者不要修补用来试李沆，李沆早晚都看见它，经过一个月始终不说。妻子把这事告诉李沆，李沆说：“怎么能因这事改变我一贯的想法！”家人劝他好好修缮住宅，他未曾回答。他弟弟李维于是说起该事，李沆说：“我们身食朝廷厚禄，不时还有意外的赏赐，用得来的俸禄也可用以修理住宅，只要想着佛家内典认为这个世界是有缺陷的，怎么有圆满如意，各自都求得称心满足呢？现在买新的住宅，须一年修缮好，人一生早晚都没法保全，又怎么能长久居住呢？鸟在林中树枝上做个窝，姑且可满足，干嘛做这些华丽的房屋呢？”
李沆与几个弟弟友爱，尤其器重李维，他俩闲日相对宴饮清谈，未曾谈及朝政，也未曾问起家里的事。李沆死后，有人向朝廷推荐梅询说他可用，宋真宗反对说“：李沆曾说他不是君子。”李沆被真宗信任倚重达如此程度。