康绚字长明，华山蓝田人。他的祖先出自康居。最初，汉朝设立都护，都称臣于西域，康居也派侍子到河西听命，被留作国民，那以后便以康为姓。晋朝时陇右发生叛乱，康氏迁往蓝田。康绚的曾祖父康因是苻坚太子詹事，生下儿子康穆，康穆是姚苌河南尹。宋永初中(421)，康穆率乡里同族三千多家进入襄阳的岘南，宋朝设置华山郡蓝田县，寄居在襄阳，任命康穆为秦、梁二州刺史，康穆尚未受职，死去。康绚的伯父元隆，父亲元抚，两人都为流人推举，先后任华山太守。
康绚幼年时洒脱有志向，齐文帝任雍州刺史时，所征召的官吏都取名门出身，只有康绚凭借才力被征召为西曹书佐。齐永明三年(485)，授职为奉朝请。文帝即位，因为以往的恩情荐举康绚为直后，因为母亲去世而卸去官职。三年服丧期满，授职振威将军、华山太守。推举全心全意的、安抚遵礼守法的，歉收的、饱足的都心悦诚服。迁任前军将军，又任华山太守。
齐永元元年(499)，义师举事，康绚发动全郡响应高祖，亲率三千勇兵，私马二百五十匹跟随高祖。授职西中郎南康王中兵参军，加封辅国将军。义师将张冲包围在郢城，历时很久，东昏将领吴子阳在加湖建立营垒，士气很旺盛，康绚随王茂大力攻打。从这之后康绚常率游兵，有紧急情况赶紧赶至该地，被斩杀的敌人、缴获的军器很多。天监元年(502)，康绚被封为南安县男，食邑三百户。授职辅国将军、竟陵太守。魏军围攻梁州，刺史王珍国派人请求援救，康绚领郡兵赴救，魏军退去。天监七年(508)，司州、三关被魏军逼迫，诏令借给康绚符节，任武旅将军，率军援救。天监九年(510)，迁封假节称号，督北兖州缘淮诸军事、振远将军、北兖州刺史。到朐山的亡命之徒以城投降魏军时，康绚迅速派遣司马霍奉伯分兵占据险要之地，魏军前来，不能过朐城。第二年，青州刺史张稷被士人徐道角杀害，康绚又派司马茅荣伯讨平徐道角。高祖征召康绚为骠骑临川王司马，加封左骁骑将军，不久转任朱衣直..。天监十三年(514)，升迁太子右卫率，甲仗百人，与领军萧景担任宫廷警卫。
康绚身长八尺，容貌超群，虽身居要职，仍习武艺。高祖在德阳殿戏马，令康绚射马，按住箭上的绳子弯弓对准目标，看的人十分高兴。那天，高祖派画工画了康绚的像，派中使拿去问康绚：“你识得这图上画的是谁吗？”康绚如此被皇上亲近。
当时魏朝投降过来的王足述说计谋，请求在淮水筑堰以灌溉寿阳。王足引用北方童谣说：“荆山为上格，浮山为下格，潼沱为激沟，并灌巨野泽。”高祖认为说的有道理，派水工陈承伯、材官将军祖日恒观察地形，他们俩人都以为淮水内沙土浮轻，不坚实，堰不容易筑成。高祖不听，征发徐州、扬州人，每二十户取五人来筑堰。诏假康绚符节、都督淮上诸军事，并主持堰的兴修，服劳役的人及士兵共有二十万。在钟离境内南起浮山，北抵..石，沿着岸边筑土，在淮水中流合脊。天监十四年(515)，堰即将合龙，淮水流得很快，于是再一次决口，众人十分忧虑。有人认为长江、淮水多有蛟龙，能够呼风唤雨使堤岸决口，它的性情是厌恶铁，因此收集东西两方的冶铁器，大则饮器烹器，小至铧、锄，数千万斤，丢在堰内。堰还不能合龙，于是砍伐树木作栏圈，用巨石填塞，在上面再加上土。淮水沿岸百里之内，山上的树木石头，不论大小都搜尽了，挑的人肩上都磨穿了。夏天疾病流行，死的人互相枕藉，蝇虫叮咬声昼夜不断。高祖担心服劳役的人淹留得太久，派尚书右仆射袁昂、侍中谢举假给康绚符节慰问他，并且加封他有减免徭役之权。这年冬天又特别寒冷，淮水、泗水都冻住了，士兵死的人十有七八，高祖再次派人赐给他们衣裤。十一月，魏派大将杨大眼扬言决开堰堤，康绚让各军撤去营寨，露营等待杨大眼军前来。康绚派他的儿子康悦挑战，斩去魏朝咸阳王府司马徐方兴，魏军稍退。十二月，魏派尚书仆射李昙定率众军前来作战，康绚与徐州刺史刘希祖等人抵抗。高祖又派右卫将军昌义之、太仆卿鱼弘文、直..曹世宗、徐元和相继拒守。天监十五年(516)四月，堰修成。堰长九里，下宽一百四十丈，上宽四十五丈，高二十丈，深十九丈五尺。两旁以堤岸相夹，并种植杞柳，军人安稳地堵塞决口，居住在上面。堰水清洁，从上往下看就像人的坟墓，一目了然。有人对康绚说；“江、淮、河、济四条大川，上天用来节宣其气，不可长时间堵塞。如果凿一低洼东流，则水流宽慢，堰才能不坏。”康绚认为讲的有道理，开低洼让水东流。又派人离间魏国说：“梁人所害怕的就是开低洼，不畏惧在野地里作战。”魏人相信了这话，果真凿山深五丈，开低洼引水北流，淮水日夜分流，低洼仍旧不减。这月，魏军终于溃退而归。淮水所流到的地方，夹淮方圆数百里地。魏寿阳城戍稍作迁移驻扎在八公山，这时南边人散住到山脊上。
起初，堰在徐州界内兴修，徐州刺史张豹子说堰在徐州境内，说自己必居其位而无所事。不久康绚派别的官吏来监督修堰，张豹子很羞愧。不久高祖下令张豹子接受康绚的调遣，每件事都先征询他的意见，由此便进谗言说康绚与魏国人互有往来，高祖虽然不听这些话，仍以堰修好后征召康绚回京。不久封康绚为使持节、都督司州诸军事、信武将军、司州刺史，兼任安陆太守，增加封地二百户。康绚回京后，张豹子不修堰，到那年秋天八月，淮水暴涨，堰都决口，奔流到海，祖日恒因罪而下监狱。康绚在州郡三年，大修城池，号称严政。
天监十八年(519)，征召康绚为员外散骑常侍，兼任长水校尉，与护军韦睿、太子右卫率周舍担任宫廷警卫。普通元年(520)，授职卫尉卿，未到任，去世，终年五十七岁。高祖当天到他家吊丧。诏赠康绚为右卫将军，给鼓吹一部，办丧事的钱十万，布百匹。谥号壮。
康绚性情宽和胆怯，在朝廷，看到人好似不会说话，号称位高敦厚。在州郡，每当寒冬腊月看见州官衣衫褴褛，便赠给他们短袄，他是如此乐善好施。康绚的儿子康悦继承爵位。