沈伦字顺宜，开封太康人。旧名义伦，因为与太宗名字下字相同，故只名伦。年轻时在嵩、洛间研习《三礼》，以讲学养活自己。后汉乾..年间，白文珂镇守陕州，沈伦前往投靠。
后周显德初期，太祖兼任同州节度，宣徽使昝居润与沈伦交情很深，把他推荐给太祖，太祖留他在幕府。太祖接着兼任滑、许、宋三州节度，都署任他为从事，掌管军国财产，以清廉闻名。到太祖接受后周禅位，沈伦从宋州观察推官任上被召回朝任户部郎中。奉诏出使吴越回京，上奏十几件对国家有利的政事，太祖都采纳了。途中经过扬州、泗州时，正好当年发生饥荒，百姓多饿死，郡中官吏告诉沈伦说“：郡中军队还储有粮食数百万斛，如果贷给百姓，到秋后收取新粮，这样则对公、私都有利，非你向朝廷陈述不可。”沈伦回京后告诉太祖。朝廷议论阻止说“：现在以军中储粮救济饥民，如果饥荒再发不能收回，谁负这个责任？”太祖问沈伦，沈伦回答说：“国家以军粮救济百姓，自然会召来和气，导致丰收，哪里会再有水旱呢？这要取决于皇上的心意。”太祖立即下令发放军粮贷给百姓。
建隆三年(962)，升任给事中。第二年春天，任陕西转运史。宋军伐蜀，任命他为随军水陆转运使。在此之前，王全斌、崔彦进攻入成都后，都强取百姓玉帛子女，只有沈伦住在佛寺吃素食，有人拿珍异奇巧物献给他，他都拒绝了。军队回师后，箱中只有几卷图书而已。太祖得知这些情况，于是贬降全斌等人，任命沈伦为户部侍郎、枢密副使。太祖率兵亲自征伐太原，任命沈伦兼任大内都部署、判留司三司事。
在此之前，沈伦的住宅简陋，沈伦却处之泰然。当时权要大臣多违背禁令在秦、陇间买巨木，营造私宅，事情败露后，都向皇帝自述。沈伦也曾经为母亲买木材营造佛舍，于是也奏明这件事。太祖笑着对他说“：你没有超过规矩。”知道他没有修理住宅，于是派中使按图督促工匠替他修理。沈伦私自告诉使者，希望规模要小，使者告诉太祖，太祖也不违背他的心意。
开宝二年(969)，遭母丧，守丧未满三年，被朝廷重新起用处理政事。开宝六年，任中书侍郎、平章事、集贤殿大学士兼提点荆南、剑南水陆发运事。太祖到西洛举行郊祀，任命沈伦留守东京兼大内都部署。不久奉召赶到皇帝行宫，参预郊祀大礼。
太平兴国初年(976)，加任右仆射兼门下侍郎、监修国史。太宗亲自率兵征伐太原，仍然任命沈伦为留守，判开封府事。军队回师，加任左仆射。太平兴国五年，史官李日方、扈蒙修撰《太祖实录》五十卷，沈伦以监修身份献给朝廷，太宗赐给他袭衣、金带。太平兴国六年，加任开府仪同三司，这年疾病发作，从此常常请求休假。
卢多逊的事即将暴露，沈伦已上表请求退休。第二年卢多逊的事败露，太宗认为沈伦与他同列，不能觉察，下诏严加斥责，降授工部尚书。他的儿子都官员外郎沈继宗，本来由父荫得官，不宜再在朝廷，夺去官职。当时沈伦有病不能起来，上表谢罪。不久，沈伦再次上表请求退休，重新授任左仆射退休。太宗因为沈伦是开国旧臣，于是恢复继宗的官职来安慰他的心。雍熙四年(987)，去世，终年七十九岁。追赠侍中。
沈伦清介严谨，皇帝每次出京，常令他留守。喜欢佛教，相信因果。曾经大热天里坐在房中，任蚊子咬他的皮肤，仆人拿扇子来，就叱骂他，希望能求福。任宰相时，遇上年岁灾荒，乡里人借粮时他都给与，几乎借出一千斛，一年后把借券都烧了。
沈伦微贱时娶阎氏，没有儿子，妾田氏生下继宗。到显贵后，阎氏把封邑坚决让给田氏，沈伦于是替阎氏在太康建住宅，田氏于是成为正室，大臣们认为他不对。
当初，有关部门建议赐沈伦谥号为“恭惠”，继宗上言说：“我死去的父亲从年幼时，就从事儒业，从未跟从奸贼，急忙赶赴皇帝宾招，幸遇明时，升至相位。我见国朝已故宰相，薛居正谥号是‘文惠’，王溥谥号是‘文献’，这虽然是近制，实际是常典。如果认为我的父亲起家不是由文学，怎能历任集贤、修史之职，请求改谥号为‘文’。”
判太常礼仪院赵昂、判考张洎驳斥说“：沈伦奉事两朝，早升宰相，有祗畏谨守之美，有矜恤周济之心。按照《谥法》：不懈于位、以及严谨事奉皇上、办事坚定、执礼御宾、率事忠信、待下属不骄、能避开耻辱、贤而不自夸、尊贤让贵、爱民长悌、不懈于修德、有过能改，这几点都称为‘恭’。又说，慈怜百姓喜欢施与，以及柔质慈民、爱民好柔、宽裕不苛、和质受谏，这几点都称为‘惠’。从汉朝以来，都是美谥。如唐朝宰相温彦博的出纳明允，只谥曰‘恭’；窦易直的公举无避，才谥曰‘恭惠’。而沈伦位居宰相，出于机遇，只能严谨以保全自己，以‘恭’配‘惠’，其赞美居多。又按照《谥法》：道德博闻称‘文’，忠信接礼称‘文’，宽厚不怠慢、廉直不伤人称‘文’，坚强不暴称‘文’，敏而好学、不耻下问称‘文’，德美才秀称‘文’，修治班制称‘文’。以前张说谥为‘文正’，杨绾谥为‘文简’，人们认为不对。因为行为有所不公，虽然蒙受特别恩赐，并非至公。如果大臣的子孙，被允许为其父陈请，则曲台、考功部门形同虚设，而表彰善行憎恨恶行的本意就失去了。继宗以其父曾任集贤殿学士及监修国史之职，就援引薛居正、王溥为比较，他们都在文章方面有成就，历任掌管诰命，以‘文’为谥号，符合国家章程。至于集贤、国史，都是由宰相兼任的职务，不是一定由文雅才授任。沈伦的谥号，希望照旧。”太宗采纳了。