陈升之字硃叔，建州建阳人。推举为进士，历知封州、汉阳军，入京师任监察御史、右司谏，改任起居舍人、知谏院。当时风俗喜欢拿走给亲属的书信，遇有诉讼，则辗转互相告发，有司就依此加以推理诘查。陈升之说：“这是告奸的习俗，请求禁止它。”又说：“三馆是士大夫们光明的前途，近来用人更加轻率，于是成了贵族高门进取的台阶，请严格进行选举。”诏令从今以后臣僚乞请子孙恩荫者，不得授以馆阁之职。
著作佐郎王馞在路上与殿帅郭承..相遇，郭诃责怒骂王馞没下马行礼，将他抓送官府。陈升之说“：京官不应给节度使下马。”于是弹劾郭承..骄横任行，解除其所任官职。张尧佐由于与后宫亲近，任三司使，不久任宣徽使；内侍王守忠统领两镇留后，请求升为正班；御史张..补任郡官，长久不被召见；彭思永论事，让询问事情的详细原委；唐介攻击宰相，被贬斥岭南；陈升之都极力进谏。升任侍御史知杂事。总共担任言官五年，上奏数十百件事，但持论不坚决，因此没有全部实施采用。
升任天章阁待制、河北都转运使，知瀛州、真定府，兼龙图阁直学士，又知谏院。仁宗说：“天下州县是否得到了治理，朝廷不能完全清楚，将这些全部交给转运使管理。如今选用的人才不精干，又没有考核督查，不是愚昧无能懦弱，就是任意欺凌刻薄之徒，因此疾苦忧愁叹息，都被阻塞，皇帝不能听到。一定要向全国民众显示朝廷的主张，应该从这里开始。”于是诏令翰林学士承旨孙扌卞、权御史中丞张..，与陈升之同时主管磨勘转运使及提点刑狱事务。
陈升之初任谏官时，曾经请求抑制断绝由宫内降旨，诏令允许有司执掌上奏不下达。到这时，进一步申明论说。诏令委托三省揭发纠正其罪行，仍然在朝堂揭露。文彦博乞求免除宰相职务，陈升之担心枢密使贾昌朝再被任用，上疏论述其邪恶，贾昌朝终于罢官免职。升任枢密院直学士、知开封府。年底，授职枢密副使。这样谏官御史唐介、范师道、吕诲、赵扌卞、王陶相继上章议论陈升之暗中交结宦官，因此得到重用。仁宗将这些上章拿给陈升之看，陈升之乞求离职。仁宗对辅佐大臣说“：朕选用执政者，怎能容许内臣干预议论邪恶。”于是双方都被罢免。以陈升之为资政殿学士、知定州，调往太原府。
治平二年(1065)，又授职枢密副使。神宗即位，以母亲年老为由请求回归郡县，为观文殿学士、知越州。熙宁元年(1068)，调往许州，中道改任大名府，路过京师，留在京师知枢密院。按照旧例，枢密院与知院事不共同设置。这时文彦博、吕公弼已为枢密院使，神宗以陈升之辅政，想逐步变异一些礼仪，因而特地加以任命。第二年，同制置三司条例司，和王安石共同处理朝事。数月后，授职中书门下平章事、集贤殿大学士。陈升之任宰相后，就请求免掉条例司，认为宰相无所不统，所统职事，又怎能称司。王安石说“：古代的六卿，就是如今的宰相，有司马、司徒、司空，各占一职，于事理有什么危害呢？”陈升之说“：如果制置百司条例是可以的，但如今设置的是制置三司官职，则不行。”由此得罪了王安石，声称有病回家休养三个多月，神宗多次敦促告谕，才重新归职。正好母亲去世需服丧，离职回家；服丧完后，奉召任枢密使。因有脚病不能站立上朝，熙宁七年(1074)，冬季祭祀，陈升之又不能赞礼。授职镇江军节度使、同平章事、判扬州，封为秀国公。去世，终年六十九岁，追赠太保、中书令，谥号叫作成肃。
陈升之老谋深算很有心计，善于逢迎以取悦富贵。王安石任宰相，担心议论满廷，引见陈升之辅佐自己。陈升之心里明白不能胜任，却尽力为王安石所用，王安石为了感激他，因而让他比自己先任宰相。刚一受到重用，就请求解除条例司，又不时的产生一些小分歧，表面上看来与王安石有矛盾。世人因此讥讽他，称他为“筌相”。陈升之起初叫陈旭，由于避神宗名之讳，改为升之。