张普惠，字洪账，常山九门人。身高八尺，相貌魁伟，对《周礼》、《仪礼》、《礼记》十分精通，还擅长于《春秋》和诸子百家的学说。太和十九年(495)，任主书，兼管局监，很被孝文帝所赏识。转任尚书都令史，任城王元澄敬重他的学问，为他吹嘘以提高他的身价。元澄任雍州刺史，聘请他为府录事参军。不久，担任管理冯翊郡的职务。
元澄有丧服在身，而却想在七月七日召集文武大臣到北园骑马射箭，普惠奏劝元澄说：“孔子说：‘脱掉丧服，停止祭奠，是不合乎礼的要求的。’后人注解这句话说：‘这样做，就会忘掉哀痛。’我认为，除掉丧服以后，不再参与祭奠，在丧期为五个月的小功之内，难道可以看别人骑马射箭吗？”元澄接受了他的建议，寻找借口，停止了七月七日召集文武大臣射猎的计划。
元澄转任扬州刺史，奏请朝廷任张普惠为羽林监领镇大将军开府主簿。普惠被元澄知遇，在元澄的两处藩地帮助他，享有很高的声誉。回到京城后，仍任羽林监。
元澄又遭遇太妃去世的忧患，大臣们为太妃立碑歌功颂德，碑上准备题写“康王元妃之碑”。元澄征询普惠的意见，普惠回答说：“查寻朝典，只有王妃，而没有元妃。孟子称鲁夫人为元，是想与下面的继室声子相区别。烈懿太妃嫁给先王，没有声子、仲子的嫌疑，我认为不用元字也可以区别名位。况且用氏配上姓，我认为这是对活人的称呼，所以，《春秋》上说：夫人姜氏从齐国来；埋葬后，用谥号配上姓，所以经书上说：埋葬我们诸侯的妻子文姜。又说：送来赠给夫人成风的衣被。都是以谥号配上姓。古代的妇人都是随着丈夫的谥号。现在，烈懿太妃品德冠盖当世，所以，特蒙褒奖和封赐，这是万代的盛事，怎么能强调定名的重要，而不称‘烈懿妃’呢？”元澄听从了他的意见。
后来，任步兵校尉，以本官的职务兼河南尹丞。宣武帝去世，他因在服丧期间与甄楷等人饮酒游乐获罪，被免去官职。按照旧例，被免官的，三年后降一级重新起用。如果才能优长，破格拔用的不受这种限制。熙平年间，吏部尚书李韶奏报张普惠有文学才能，按才能优秀的旧例，任他为宁远将军、司空仓曹参军。朝中议论以不降级为光荣。当时，任城王元澄任大司空，他的奏章、文告、书信，大多出于普惠之手。
转任谏议大夫，元澄对他说：“我并不为你担任谏议大夫一职感到高兴，却高兴地看到谏议一职得到了你这个合适的人选。”
这时，灵太后的父亲胡国珍去世，朝廷赠爵为相国、太上秦公。普惠认为前代皇后的父亲没有太上的封号，所以，向朝廷上疏，陈说这样做是不可以的。左右两边的大臣都很害怕，不敢附和他的话。这时，听说胡家挖掘墓坑，发现地下有一块大石头。普惠便秘密呈上奏表，说“：已故侍中、司徒胡公，胸怀大道，内含灵气，所以生下圣明的太后，位近国家枢机，完全胜任朝廷的重托；身居槐里，能体察道德礼仪的真谛。所以，因功高盖世，被朝廷赏赐九种最贵重的礼物，甚至用天子车上用的旗去褒奖他。圣上对他的深恩厚德更加隆重，太后对他的孝心更加慈爱，写在宪章里昭示天下，不也就可以了吗？而赐给太上的封号，我认为不妥。为什么呢？《礼记》上说‘，天上没有两个太阳，地上没有两位君主，到郊庙里祭祀，不能尊崇两位神主。’《易经》上说：‘上边困惑，一定要反映在下边。’希望能听从我的建议，停止司徒威迫天子的封号。”
太后看到奏表，亲自到胡国珍家中，召集五品以上官员讨论这件事。任城王元澄，太傅、清河王元怿，侍中崔光、御史中尉元匡、尚书崔亮都面有难色，普惠仍按理纠正，无所屈服。廷尉少卿袁翻说：“《周官》篇说：‘上公被封九级，上大夫被封为四级。’级数虽然不一样，但都同名为上，怎么说称上的都是最尊贵的？”普惠厉声呵斥袁翻说“：天子封为官职的有下卿、上士，何止只有大夫与公？但今天所封赐的号是太字下又加上字，两个名号同时赐予，不能不说达到极端。那些雕虫小技，你或许略知一二，至于事关礼仪制度的大事，哪里是你能知道的？”袁翻脸上很有些惭愧的颜色，沉默在一旁不再说话。参加讨论的大臣认为灵太后正当朝理政，都顺从她的志向，便奏报说“：张普惠言词虽然不屈不挠，但不是我们所同意的。朝廷的使命已经作出，请按前面的诏命执行。”太后又派元叉、贾灿宣读命令说：“我这样作，是孝子的心愿；你坚持陈奏，是忠臣的职责。群臣们已有定论，你不要苦苦夺去我孝敬父亲的情怀。以后有什么看法，不要因此就不再说话。”
开初，普惠被太后召见，传达诏书的人骑着快马驰来，十分迅速，站着立即催促他快去。他的儿子们都吓得涕泪交流，他对他们说：“我处在圣明的朝代，身负进谏的职责，如果不陈说别人难以陈说的话，进谏别人难以进谏的事，便是惟惟诺诺，丧失职责，空食俸禄。人生总有一死，但要死得其所，又有什么可怨恨的呢？然而，朝廷论理讲法，你们不要担忧。”等到群臣们议论完毕，朝廷下旨慰劳，并命他回家，亲友故交都庆贺他的幸运。
这时，中山人杜弼写信给他说：“您深谙儒学，博学多闻，身怀奇伟之才，身居朝廷，担任谏议的职务，是那样忠诚，那样正直。昨天在胡司徒的府第，当庭与胡太后谏诤，虽然诘问的话锋接连出现，而您从容应对，声音洪亮。宋城的带子才开始系上，鲁门的木柝可作警戒。终于使后妃们逡巡顾忌，群僚们拱手沉默，虽然意见一时不被采用，但名声可传扬百代。听说您廷诤的消息后十分畅快，所以写了这些话。”张普惠十分欣赏这封书信，常常口头向别人提起。
普惠认为向天下百姓征收的布帛丝绢，幅度又长又宽，而尚书还要计议上奏，再向全国征收绵和麻，恐怕民不堪命。便上疏说：“听说尚书奏请，又要征收绵麻一类的户税，是遵照先皇定下的规矩。我日夜思忖，情感交集。高祖昭成帝废除大斗，丢掉长尺，改去重秤，是因为怜爱天下百姓，减轻赋税。知道军队和国家需要绵和麻，因而，既征收户调，又让黎民百姓都享有养蚕和种麻的利益。所以，绢上税交绵八两，布上税交麻十五斤。百姓们能够废除大斗，去掉长尺，改变重秤，享受到减轻赋税的好处，不应该再交绵麻了。所以，他们高兴得载歌载舞，交纳租税；欢呼雀跃，去服劳役。朝廷坚守信用，百姓就高兴输纳。但从此以后，征收调绢的尺幅却渐渐变长变宽，百姓们的怨恨声到处都可以听到。目前，皇太后还没有临朝执政，陛下您正在守丧，宰辅大臣不探根求源，只知道百姓们怨恨加征绵麻，不了解加宽了尺幅，增长了尺寸，加重了秤上的斤两，加大了斗的容量。应该革去户税中的弊端，保留所应该保留的，却专门又提出用绵麻代替调绢，以取悦天下的人心，我认为用不恰当的方法取悦人心，还不如不取悦呢。”
普惠又上表请求在皇帝临朝议事的日子，要当面听取朝臣的意见。从此以后，朝臣们一个月见一次皇帝。又由于孝明帝不亲自临朝听政，过分地崇尚佛法，甚至到家庙祭祀祖先的事，也让有司代替，普惠也上表规劝。
当时，史官因日蚀相克，建议朝廷停止议事。普惠认为废除朝政是非礼的行为，上疏表示反对。又上表议论时政的得失，一是要审定法度，使斗和尺标准化，减轻田租和户税的征收量，减少百姓的服役时间；二是听取朝野的意见，明察冤狱错案，先皇时的制度有不便于实行的，请全部改正；三是拔擢忠诚正派的人才，黜退卑鄙奸妄的小人。任用贤能不要三心二意，摒弃邪恶不要犹豫不决；四是复兴衰败的贵族世家，对于勋臣旧戚的后代，应该续用。
奏章送上，孝明帝和灵太后在宣光殿接见普惠，不断向他诘问质疑。君臣对答多时，太后不高兴地说：“这些烦琐小事，都一一翻腾出来，实在惹人烦恼。”普惠答道：“圣上您养育天下百姓，就像慈母养育婴儿。现在，婴儿就要被弃置在山壑中，将被丢放在水火中，而却因为怕麻烦不去拯救他们，难道是婴儿们对慈母所期望的吗？”太后说“：天下的黎民百姓，难道有这样艰难困苦吗？”普惠回答说“：天下的皇亲贵戚，地位没有超过太师彭城王的，然而，他还不免受冤枉死去，那些平民百姓受的冤屈痛苦，还能有什么不会出现呢？”太后解释说“：彭城王受的冤屈，我用加封他的三个儿子的办法加以弥补，你为什么还要提起？”普惠说“：太后您加封彭城王的三个儿子，天下人没有不对您的德行感到高兴的，知道您像慈母一样君临天下。我所以重新陈奏这件事的原因，是请求朝廷对这类冤案都要进行甄别复议。”太后又问“：你说的复兴衰败的贵族旧戚，究竟是指的谁？”普惠答道“：过去淮南王刘安因为叛逆被处死，汉文帝还封赏他的四个儿子，这是骨肉之情不可离弃、关系亲密的缘故。我见咸阳王、京兆王都是皇子皇孙，仅因一时犯罪，就自己种下祸根，永远沉沦下僚，再也不被起用，难道不应复兴衰败的贵族旧戚吗？”太后说“：你说的很有道理，应当让公卿大臣们广泛议论一下。”
任城王元澄去世，普惠因受他的恩惠，初一和十五一定去祭奠。到了除服的祭礼，不管是寒冬盛暑，刮风下雨，也必定赶去参加。因为，元澄曾嘉奖过普惠，临终前又奏请朝廷任命普惠为尚书右丞。灵太后深深悼念元澄，看到他生前写的奏书，便采纳了他的建议。诏命颁行之后，尚书省的官员们认为普惠出身寒微，不应管辖尚书省的事，他们互相联络，想一起抵制他上任，事情闹了多日才停息。
正光二年(521)，朝廷命杨钧护送蠕蠕族首领阿那王襄回国，普惠认为送回去将留下后患，上疏极力陈说不应该这样做，朝廷没有采纳他的意见。魏子建任益州刺史，被安上贪贼的罪名。普惠被派往益州调查，弄明情况，解除了魏子建的罪名。所以，魏子建父子十分感激他。这时，南梁西丰侯萧正德诈称投降，朝廷很认真地准备迎接他。普惠却请求朝廷将萧正德送到扬州，送还给南梁，朝廷不同意。不久，萧正德果然又叛魏回到南梁。后来，朝廷任普惠为光禄大夫，右丞的职务仍然不变。
仇池武兴郡的氐族多次反叛，西部边境各郡防守部队的军需物资很久就断绝运输。朝廷下诏命普惠以本官的职务再担任持节、西道行台，划拨秦、岐、泾、华、雍、豳、东秦七州的兵士健儿三万人，听凭他的调遣，让他负责将南秦、东益州二州交纳的军粮，分别送给各戍边部队。他需要的将领，也由他在关西的守将中随意挑选，军队中所需的各种物资和文书，都由他自行决定。事情办完后回到京城，朝廷赐给他丝绢和布帛一百匹。这时，朝廷又下诏命群臣访察冤案，普惠不断上疏陈述种种不合理的事情。
出任东徐州刺史。淮南九个边防区域十三个郡，因南梁过去遗留下的积弊，不同郡县的人错杂混居。普惠逐一清查登记，精减郡县数量，上表奏报，朝廷下诏批准。地方官根据他的意见，治理有方，盗贼消失，百姓都安居乐业。
普惠不喜欢经营家产，好举荐人才，对故交旧友忠诚淳厚。冀州人侯坚少年时与他一同求学，很早就去世了，撇下儿子侯长瑜，普惠一年四季都拿出俸禄接济他，从不间断，还送给他吃的穿的。他任豫州刺史后，又推荐侯长瑜出来做官，并携带长瑜的全家到豫州，在生活上不断帮助他们。他在豫州去世。