陈与义字去非，祖籍在京兆，从其曾祖父陈希亮始，其家迁至洛阳，所以，陈与义是洛阳人。陈与义天资聪颖卓越，幼时即能写作文章，并小有名声，同辈皆钦佩他，不敢与他相比。陈与义于政和三年(1113)考中上舍甲科，被授与开德府教授，累迁太学博士，擢升为符宝郎，不久遭贬谪，出监陈留酒税。
金朝攻陷汴京，高宗南迁，陈与义避难于襄汉，再辗转湖湘，翻越五岭到达岭南。过了许久，朝廷召其为兵部员外郎。绍兴元年(1131)夏天，陈与义到了都城临安，升迁为中书舍人，兼掌内制。后又被拜为吏部侍郎。不久以徽猷阁直学士的身份出知湖州。之后，被召为给事中，其所做驳议精辟典雅，又以显谟阁直学士提举江州太平观。时朝中宰相有不满意陈与义者，因此，陈与义被召回后，再次被用为中书舍人、直学士院。绍兴六年(1136)九月，高宗幸临平江，同年十一月，拜陈与义为翰林学士、知制诰。
绍兴七年正月，陈与义为参知政事。在任执政期间，陈与义师用道德以辅朝廷，务尊主威而振纲纪。当时丞相赵鼎说“：人们都认为，中原有可图之形势，故宜进军中原，趁势收复失地，如失良机，他日将悔咎莫及。”高宗曰“：今皇帝之棺与太后、渊圣皆为金扣押未还，如不与金议和，则无可还之理。”陈与义说：“若能签订和议，自然强于用兵，但万一不能议和，则用兵就不可避免。”皇帝说：“是这样的。”绍兴七年三月，陈与义随皇帝到建康。第二年，护从皇帝回临安。因患疾病，陈与义告假，复以资政殿学士知湖州，陈与义再表推辞。皇帝对其病情十分关切，遂请闲提举临安洞霄宫。十一月，陈与义离世，终年四十九岁。
陈与义容貌庄严敬肃，不苟言笑，平常待人接物儒雅谦恭，然内性刚强，不可冒犯。陈与义多次举荐士人于朝廷，但从不与人表白自己的举荐之功，士人因此而特别推重他。陈与义特别擅长做诗，写景状物，清新深邃，迂回婉转，洒脱不俗，游离于陶、谢、韦、柳之间。陈与义曾以《墨梅》为题赋诗一首，深得徽宗嘉赏，并因此而特别受到皇帝的器重。