司马光字君实，陕州夏县人。父亲司马池，官至天章阁待制。司马光七岁时，凛然像成年人，听到人讲说《左氏春秋》，喜爱上了这部书，回去给家人讲解，就能讲述其中的大概要旨。自此以后手不释卷，以至不知饥渴寒暑。一次，一群小孩在庭院中游戏玩耍，一个小孩登上瓮缸，失足落水被水淹没，大伙都逃弃而去，只有司马光搬起石头砸破瓮缸，缸水迸发流出，落水小孩因此得救。此后京城、洛阳间把这一故事画成图流传开来。宋仁宗宝元初年，考中进士甲科，时年刚满二十岁。他生性不爱华丽奢侈，闻喜宴上唯独他不戴红花，同伴们对他说：“君主的赏赐是不可以违背的。”于是他才插上了一枝花。
司马光被任命为奉礼郎，当时司马池在杭州，于是司马光要求改任签苏州判官事以便侍亲，得到朝廷准许。遭逢母丧父丧，守丧多年，因过度悲伤，而使身体瘦弱，合乎礼仪。守丧期满后，任签书武成军判官事，改任大理评事，补任国子直讲。枢密院副使庞籍推荐他为馆阁校勘，同知礼院。
宦官麦允言去世，朝廷给以仪仗队。司马光说“：古时诸侯佩着辂马的带饰去朝见天子，孔子尚且认为不可。麦允言是帝王的亲信近臣，没有元勋那么大的功劳，而赠以三公的官职，给予一品官待遇的仪仗队，这与诸侯佩辂马带饰相比较不是大大超过规格吗？”夏竦被赐给谥号“文正”，司马光说：“这个谥号是最完美的，夏竦是什么人，怎么可以配得上它呢？”改谥“文庄”。司马光加官集贤校理。
应庞籍的征召，司马光任并州通判。麟州屈野河西有很多良田，西夏人蚕食这块地方，成为河东大患。庞籍命令司马光前去按察巡视，司马光建议：“修筑两个城堡来控制西夏人，招募百姓耕种，耕种的人多，那么买进粮食的价格就会低，也可以渐渐解除河东高价买进粮食远距离运输的忧患。”庞籍同意了他的建议。但麟州将领郭恩勇猛而又狂妄，带领部队连夜渡过屈野河，却没有设防，结果被敌人消灭，庞籍因此获罪去职。司马光三次上书自责引咎，没有得到朝廷的答复。庞籍死，司马光升堂拜其妻子好比自己的母亲，抚养他的儿子好像自己的兄弟，当时人们都认为他是个贤人。
改任直秘阁、开封府推官。交趾进贡异兽，叫作麒麟。司马光说：“是真是假是不可能知道的，即使是真的麒麟，不是它自己来的不足以作为祥瑞之兆，希望归还他们的贡物。”又献赋讽咏其事。任修起居注、判礼部。官吏上奏应当有日食发生，按故事日食不满分，或者京师看不见，都上表称贺。司马光说：“各地能见到日食而京师却看不到，这是皇帝被阴险邪恶所遮蔽；天下都知道而唯独朝廷不知道，它所造成的灾害越来越严重，所以不应当庆贺。”朝廷同意了这一意见。
被任命为同知谏院。苏辙对答皇帝的制书策问恳切直爽，主考官胡宿打算把他黜斥，司马光说：“苏辙有爱君忧国之心，不宜黜斥。”下诏把苏辙放在末等。
仁宗开始有病时，皇帝继承人没有立定，天下人寒心但不敢作声。谏官范镇首先提出这个建议，司马光在并州听到后接着提出建议，并且写信勉励范镇以死相争。到这时，司马光面陈皇帝说：“我过去任并州通判时，上呈了三个奏章，希望陛下果断切实实行。”仁宗沉思了很久，说：“莫非是想选择宗室作为继承人吗？这是忠臣之言，只是人们不敢提及而已。”司马光说：“我说这事，自己认为必死无疑，想不到陛下如此开明并采纳。”仁宗说：“这有什么害处，古今都有这样的事。”司马光退下后一直没有听到诏命，又上疏说：“我从前进呈建议，估计马上会实行，现在寂无所闻，未见动静，这一定有小人说陛下正当壮年，何必马上做这种不吉祥的事情。小人没有长远的考虑，只是想在匆忙的时候，援立与他们关系很好的人而已。‘定策国老’‘门生天子’的祸害，可以说得完吗？”仁宗大为感动地说“：把此疏送往中书省。”司马光见到韩琦等人说“：诸公现在不及时决定皇位继承人这件事，将来禁宫中夜半传出寸纸片言，以某人为皇嗣，那么天下人不敢违抗。”韩琦等拱手说“：不敢不尽力而为。”不久，诏命英宗判宗正，英宗谢辞不就任，于是立他为皇子，又称病不入宫。司马光说“：皇子辞谢不可计量的富贵，竟至于十天一月之久，可见他的贤能远胜他人。然而父亲呼唤不及答应就要去做，君命呼唤不等待车驾，希望陛下用臣子大义责成皇子，说他应当而且必须入宫。”英宗于是接受了当皇子的诏命。
兖国公主嫁给了李玮，但两人合不来，下诏把李玮调出到卫州，他的母亲杨氏归其兄长李璋照顾，公主入居禁宫之中。司马光说：“陛下怀念章懿太后，所以让李玮匹配公主。如今李玮母子分离析别，家事穷困潦倒，难道皇上对他家已无顾念之心了吗？李玮已经遭黜斥，公主怎么会没有罪责呢？”仁宗醒悟，降公主为沂国公主，对待李氏的恩泽不减。
升任知制诰，司马光坚决辞谢，改任天章阁待制兼侍讲、知谏院。当时朝政很是姑息从事，胥史喧哗闹事就折中执法，近臣狂悖傲慢就贬退宰相，卫士凶狠忤逆而不穷加治理，军士责骂三司使而认为他们没有触犯等级制度。司马光认为这些都是国家衰颓的开始，不可以不予纠正。
充媛董氏去世，赠为淑妃，罢朝持服吊丧，官员们送柩下葬，决定谥号，实行封册之礼，出葬赐给仪仗队。司马光说：“董氏品秩本来微贱，临死时才拜为充媛。古代妇人没有谥号，近代制度也只有皇后才有。仪仗队本是用来奖赏军功，不曾施给妇人。唐代平阳公主因有举兵辅佐唐高祖平定天下的功劳，才得以赐给仪仗队。到韦庶人时开始后妃、公主出葬那天都给予鼓乐，这不是完美的典章制度，不足以效法。”当时有司决定后宫封赐追赠的办法，皇后与妃子都追赠三代祖先，司马光说：“妃子不应与皇后同制，袁盎撤除慎夫人的席位，正是因为这个原因。天圣亲临郊外祭祀，太妃只追赠二代，何况是妃子呢？”
英宗即皇帝位，有病，慈圣光献皇后同朝听政。司马光上疏说“：过去章献明肃皇太后有保佑先帝之功，只因亲用外戚小人，受到天下人的攻击。现在正是摄政之际，大臣中忠实厚道的如王曾，清正纯明的如张知白，刚果正直的如鲁宗道，朴质正直的如薛奎等人，应当信任重用；猥琐庸俗的如马季良，谗言谄媚的如罗崇勋等人，应当疏远他们，这样天下才会信服。”
英宗病好后，司马光预料一定会有追赠隆遇亲生父母的事情发生，便上奏：“汉宣帝为孝昭帝的后代，最终不追尊卫太子、史皇孙；汉光武帝上继统元帝，也不追尊巨鹿、南顿君，这是万世永久的制度。”后来诏命两制集中讨论濮王应奉典礼之事，学士王王圭等人互相观望不敢首先发言，唯独司马光一人奋笔上书说：“为人后嗣的就是他的儿子，不应当顾忌私亲。濮王应当按照封赠期亲尊属的成例，称为皇伯，高官大国，极其尊荣。”议崇既定，王王圭立即命令吏员以司马光的手稿作为根据。此议上报后与当权大臣的意见不同，御史台据力以争，都被罢斥去职。司马光请求留任他们，没有得到许可，于是司马光请求与他们一起贬官。
开始，西夏派遣使者祭奠问候，延州指派高宜押送陪伴，高宜傲视使者，侮辱西夏国王，使者投诉于朝廷。司马光与吕诲请求加罪于高宜，朝廷不同意他们的建议。第二年，西夏人进犯边地，杀害官吏掠取土地。赵滋治雄州，专门以刚猛凶悍的办法治理边地，司马光认为这种做法不可取。到这时，契丹百姓在界河捕鱼，在白沟以南砍伐柳树，朝廷认为雄州知州李中..没有才能，打算另外派人取代他。司马光认为“：国家正当戎夷民族归附之时，而喜欢同他们计较细微之事，等他们桀骜不驯服，却又依从姑息他们。近来的西部祸害起于高宜，北边的祸害起于赵滋；当时正以这二人为贤，所以边地官吏都以生惹是非为能事，对此宜加疏导不可助长。应当敕令边地官吏，如果因为与疆界无关紧要的小事情动不动就以刀箭相加的，以罪论处。”
仁宗遗赐钱物价值一百余万，司马光带领同僚们多次上奏章，认为：“国家有大忧患，中外困窘贫乏，不可以专用乾兴故事。如果遗赐不可以辞谢，应当允许侍从向上进献金钱以佐助山陵之用。”朝廷没有允许。司马光于是用他所得的珠宝作为谏院的公使钱，把黄金赠送给舅氏，意思是家不藏财。皇太后还政，有关部门确立法式，规定凡是皇太后有所取用，应当审核详情，重行上奏才予供给。司马光说“：应当把属于她的那部分划她使用，并开列数目告诉太后，以防矫诏伪造。”
曹佾无功而被任命为使相，中书省、枢密院两府都迁升官职。司马光说“：陛下想用此来安慰母后之心，但迁升任官没有名义，那么宿卫将帅、内侍小臣，一定会有非份的奢望。”不久升都知任守忠等人的官职，司马光再次争论，因而议论“：任守忠是个大奸之人，陛下为皇子，不是任守忠的意思，相反他败坏大事，百端离间，幸好先帝没有听他的话；等陛下嗣立皇位，他又变化无常交相图谋，是国家的大奸贼。请求把他斩首于都市，以谢天下。”责贬任守忠为节度副使，安置蕲州。天下为之大快。
下诏招陕西义勇二十万，民情惊骇扰乱，而义勇纪律散漫不可任用。司马光说这种做法不对，持论告诉韩琦。韩琦说“：用兵贵在先声夺人，谅祚正桀骜不驯，让他突然听到增兵二十万，怎么不害怕？”司马光说：“用兵之贵先声夺人，是空洞无实，只是可以欺骗一日之间而已。如今我们虽然增兵，实际上不可任用，不过十天，他将会知道这一详细情况，还有什么可恐惧的呢？”韩琦说：“您只是看到庆历年间乡兵招成为保捷军的情形，忧虑今天会重蹈覆辙，朝廷已经降下敕榜同百姓约定，永不充军戍守边地了。”司马光说：“朝廷曾经失信于民，百姓不敢轻信，即使是我也不能不怀疑。”韩琦说：“我在这里，您不要有什么忧虑。”司马光说：“如果您长期在这个地方，当然可以放心；他日别人当权，用您现在的军队，用他们运粮戍边，不过是易于反掌的事而已。”韩琦默然无声，但终于没有停止增兵。不到十年，事情果真如司马光所料。
王广渊被任命为直集贤院，司马光认为他奸妄邪恶不可亲近“：过去汉景帝重用卫绾，周世宗薄待张美。王广渊在仁宗时代，私自结交于陛下，难道是忠臣吗？应当加以贬斥以劝勉天下。”司马光升任龙图阁直学士。
神宗即皇帝位，提拔司马光为翰林学士，司马光极力辞谢。神宗说：“古代的君子，有的有学问而没有文采，有的有文采而没有学问，只有董仲舒、扬雄二者兼而有之。你有学问有文采，为什么要推辞呢？”司马光回答说“：我不能作四六句。”神宗说“：四六句像两汉时的制书诏令那样就可以了；况且你能够取得进士高第，却说不能作四六句，为什么呢？”终没有获准辞谢。
御史中丞王陶因议论宰相不押班而罢职，司马光代理御史中丞，司马光说：“王陶由于议论宰相罢职，那么中丞之职不可再为。我愿意等待宰相押班后，然后就任该职。”朝廷准许了他的请求。司马光于是上疏论修心的要旨有三条：叫仁义，叫明智，叫武略；治国的要旨有三条：叫善于用人，叫有功必赏，叫有罪必罚。司马光的这一主张很完备。司马光又说“：我得以事奉三朝，都是以这六句话呈献，平生历学所得，全部都在这里头了。”御药院的内官近臣，宋朝常常用供奉官以下的人充当，升到内殿崇班职位就出任地方官；近年暗中理顺官阶，这不是祖宗的本意。因而弹劾高居简奸妄邪恶，请求加以远远流放。奏章五次呈上，神宗为了替高居简开脱，全部废除寄资官。不久再留任二人，司马光又据理力争。张方平任参知政事，司马光认为他不负众望协调，神宗没有同意司马光的意见。司马光还是担任翰林兼侍读学士。
司马光常常担心由于历代史籍浩繁，皇帝不能全部阅览，于是写了《通志》八卷呈献英宗。英宗很高兴，命令在秘阁设置机构，续修这部书。到这时，神宗给此书命名为《资治通鉴》，并亲自给此书写了《序》，让司马光每天进读。
诏令录选颍王府直省官四人为..门祗候，司马光说：“国初草创之时，国运还艰难，所以皇帝登位初期，必须用左右故旧之人作为亲信称作随龙，这不是一般的制度。..门祗候对文臣来说是馆阁职务，怎能让执劳役供使用的人担任呢？”
西戎部将嵬名山打算以横山部众，捉住谅祚来降服，诏令边臣招纳横山部众。司马光上疏极论，认为：“嵬名山部众，未必能够制服谅祚。即使侥幸取胜，灭掉了一个谅祚，又生出一个谅祚，有什么好处；如果不能取胜，嵬名山一定会带领部众归附于我，不知怎么对待他们。我恐朝廷不单失信于谅祚，又将会失信于嵬名山。如果嵬名山余部还很多，返归北地不能，而进入南方又不被接纳，穷途末路无处可归，必定将会突然占据边城来求活命。陛下难道没有听说侯景叛乱的事例吗？”神宗没有采纳他的意见，派遣将领种谔出兵迎接嵬名山，取得绥州，耗费钱财六十万，西边用兵，大概就从这里开始。
百官给神宗上尊号，司马光正当轮值答谢诏书，说：“先帝亲郊祭祀，不接受尊号。先帝晚年有人进献建议，认为国家与契丹往来通信，契丹有尊号而我独独没有，于是决定在非常之时奉册行事。过去匈奴冒顿自称‘天地所生日月所置匈奴大单于’，没有听说汉文帝也加以大名尊号。”神宗非常高兴，亲手起草诏书夸奖司马光，让他好好写答谢辞，以示中外。
执政大臣以河朔地区遭受旱灾，国家财用不足，请求神宗南郊时不要赏赐黄金丝帛。诏命学士讨论，司马光与王皀、王安石同时进见，司马光说“：救灾节用，应当从贵人近臣开始，陛下可以听取这个意见。”王安石说“：常衮辞去官职俸禄，当时认为常自知无能，应当辞去职位但不应当辞去俸禄。况且国家财用不足，并非当世急务，国用之所以不足，是由于没有得到善于理财的人的缘故。”司马光说“：善于理财的人，不过是苛征于民而已。”王安石说：“不是这样，善于理财的人，不加重赋税而使国家财用充足。”司马光说：“天下哪有这样的道理？天地之间所生出来的财货百物，不是在老百姓手里，就在官府那里，要是想方设法掠夺民财，它的危害就比加重赋税有过之而无不及。这大概是桑羊欺骗汉武帝的话，太史公把它写入史书足以见其不明而已。”二人争议不休。神宗说“：我的意见与司马光相同，但暂且以不予允准回答他。”适逢王安石起草诏书，援引常衮事例责问两府，两府不敢争辩。
王安石执政，颁行新法，司马光上书陈述新法的好处和害处。司马光在迩英殿进读，读到曹参代替萧何的事时，神宗说“：汉代永远遵守萧何的成法不变，可以吗？”司马光回答说：“不仅汉代，假使三代之君永远遵守夏禹、商汤、周文王、周武王的制度，即使到今天存在仍然可以。汉武帝对汉高帝的约束之法多有改动，于是盗贼满天下；汉元帝改变孝宣帝的政治，汉朝于是衰落。这样说来，祖宗的制度是不能改变的。”
吕惠卿说：“先王制度，有一年一变的‘，正月天气开始暖和，在宫廷外门颁布法令’就是这样；有五年一变的，皇帝巡行境内考察制度就是这样；有三十年一变的‘，刑罚世轻世重’就是这样。司马光所说的不正确，他的意思是讽喻朝廷。”神宗询问司马光，司马光说：“在宫廷外门颁布法令，是颁布旧法。诸侯变易礼乐，天子一旦察觉就要诛杀他，这不是自我变化；刑法新建之国使用轻典，混乱之国使用重典，这就是世轻世重，不是改变。况且治理天下就比如治理住宅，坏了就加以修整，不是严重毁坏就不重新建造。公卿侍从百官都在这里，希望陛下问问他们。三司使执掌天下财政，没有才能的可罢黜，不能让执政大臣侵占其事。现在设立制置三司条例司，是为什么呢？宰相以道义辅佐皇帝，是用什么例子？如果引用例子，那么就是胥吏了。现在设立看详中书条例司，是为什么呢？”吕惠卿不能回答，就用其他的话诋毁司马光。神宗说：“互相辩论是非，何必到这种地步。”司马光说：“平民百姓出息借钱，尚且能够蚕食下户贫民，何况有县官督责的威仪呢！”吕惠卿说：“青苗之法，愿意借取就贷给他，不愿意的并不强求。”司马光说“：愚昧之民只知道借债的好处，不知道还债的害处，不单县官不强求，就是富有的百姓借贷也不强求。以前太宗平定河东，建立和籴法，当时一斗米十文钱，百姓喜欢同官府贸易。此后物价贵了而和籴没有解除，于是成为河东永久之患。我恐怕他日的青苗法，也还是这样。”神宗说：“坐守仓库买进粮食怎么样？”在座的众臣都起身，司马光说“：不方便。”吕惠卿说“：买米百万石，那么可节省东南之地的漕运费用，可用这些钱供给京师。”司马光说“：东南地区发生钱荒而谷米散乱，如今不和籴粮米而取漕运钱，弃其有余，取其所无，农商都会受到伤害！”侍讲吴申站起来说“：司马光的话，是深切中肯之论。”
一天，司马光被留下来对策，神宗说“：现在天下喧扰纷乱，正是孙叔敖所说的‘国家有此，众人所恶’那种情况。”司马光说“：对。陛下应当论断新法的是与非。现在制置三司条例司所做的，只有王安石、韩绛、吕惠卿认为是正确的，陛下难道能够单是与这三个人共治天下吗？”神宗想任用司马光，去询问王安石。王安石说“：司马光表面上借托向上直谏的名义，实际上内怀结附百姓之心。他所说的全是危害政治的事情，所相好的都是危害政治的人，而陛下打算把他置于左右重臣的位子上，让他参与国家大事，这是成败盛衰的关键。司马光的才能怎能危害政治，但是一旦身处高位，那么持不同意见的人会倚以为重巴结他。韩信打着汉的旗帜，赵军恐惧丧胆，现在任用司马光，这是给反对者树立旗帜。”
王安石因为韩琦上疏陈论，在家休息请求退位。神宗就任命司马光为枢密副使，司马光辞谢说：“陛下所以任用我，是由于看到我狂妄刚直，希望对国家有所补益。如果仅仅是用禄位荣耀其身，而不采纳他的言论，这是用天官私待其身，我不是这样的人。如果我仅仅以禄位自我荣耀，而不能挽救百姓的忧患，这是盗窃名器来自私其身。陛下果真能够废除制置三司条例司，追还提举官，不颁行青苗、助役等法，即使不任用我，那么我受到的赏赐已是很多了。现在说青苗法害处的人，不过是说使者骚扰动摇州县，成为今天的祸患而已。但我所忧虑的，是在十年以后，不是今天。百姓的贫富，是由于勤劳、懒惰不同而造成的，懒惰的人常常贫困，所以必须向他人借贷。现在官府出钱借贷给百姓而敛取利息，富裕的人不愿意领取，而使者以多散发作为功劳，一切强迫抑配。而且又担心贷钱的人逃避负债，必定令穷人、富人相互担保，贫穷的人不能偿还，就会流散到四方；富人不能离去，必定督促使他人代还数家的负债。春算秋计，转移不定日益严重，穷人既尽，富人也陷于贫困。十年以后，百姓将没有生存的地方了。又全部散发了常平钱谷，专门实行青苗法，他日如果想恢复常平仓，将有什么所取呢？富室既然没有了，常平仓已经废除了，加之用兵打仗，接着而来的是饥馑灾荒，百姓中羸弱的必然听任其死于沟壑，强壮的必然相聚而成为盗贼，这是此事的必然发展趋势。”司马光上章极谏至七八次，神宗派人对他说：“枢密院，是执掌军事的，百官各有职守，不应当言及其他事情。”司马光回答说：“我没有受任此职，那么还是侍从官。对国家大事没有什么不可以说的。”王安石出来处理政事，司马光才得以请求，于是请求去职。
司马光以端明殿学士知永兴军。宣抚使下令分义勇戍守边地，挑选诸军中骁悍勇猛的兵士，招募街市中品行恶劣的少年作为骑兵；抽调民力制作干粮，全部修筑城池高台，使得关辅一带骚扰混乱。司马光极谏说：“公私困乏，不可举事，而且京兆一路都是内郡，修缮城治不是急务。宣抚使的命令，都不敢从命，如果缺乏财物以供军用，我当然要负责任。”由于这样京兆一路独得免乱。改任许州知州，朝廷催促司马光入京觐见，他没有前往；请求判西京御史台回洛阳，从这以后绝口不论国事。但是言诏下达后，司马光读之感动流泪，想要沉默却不忍心，就再次陈述六事。又写信责备宰相吴充，事见《吴充传》。
蔡天申任察访使，妄自作威作福，河南尹、转运史像对待上司一样侍奉他；他曾朝拜应天院神御殿，官府单独为他设置一个班次等级，表示不敢与他抗衡。司马光回头对御史台胥吏说“：领蔡寺丞回到他自己的班次上。”胥吏马上领蔡天申站在监竹木务官富赞善的后面。蔡天申为难沮丧，当天就走了。
元丰五年(1082)，司马光忽然得了语言迟钝的病，怀疑将要死去，预先写好遗表放在卧室内，倘若情势急迫，就把它交给关系好的人上呈。颁行新官制，神宗指着御史大夫这一官职说“：非司马光不可。”又打算用他做东宫太子的老师。蔡确说“：国事刚定，希望稍稍迟一些时间。”《资治通鉴》没有完成，神宗对此事非常重视，认为该书胜过荀悦《汉纪》，多次催促司马光完篇，并赐给颍王府旧书二千四百卷。等书写成，司马光加官资政殿学士。司马光一共在洛阳住了十五年，天下认为他是真宰相，老百姓都号称他为司马相公，连妇女小孩也知道他是司马君实。
神宗逝世，司马光赴朝临丧，卫士望见他，都用手放在额头上说：“这是司马相公。”所到之处，百姓阻遏道路聚首围观，以至于马不得行进，百姓说“：您不要返归洛阳，留下来辅助天子，救救百姓吧。”哲宗年幼，太皇太后临政，派遣使者问司马光什么事应该先行，司马光说：“广开言路。”诏令张榜于朝堂广求直言。但大臣有不高兴的，筹划了六句话说：“诸如心怀奸诈；超越职责范围；或者扇摇鼓动机密的军国大事；或者迎合已经实行的法令；对上想凭侥幸升迁官职；对下想迷惑世俗。像这几种，罚无赦。”太后又命出示给司马光看，司马光说：“这不是求谏，而是拒绝上谏。这样为人臣者只有不说话，否则一说话就列入这六事的范围了。”就详细论述这种情况，改诏实行，于是上书奏事的人数以千计。
起用司马光为陈州知州，经过朝廷，留任门下侍郎。苏轼从登州被召回朝，沿路上的人相聚高呼说“：委托您感谢司马相公，让他不要离开朝廷，深加自爱以救我们。”当时天下百姓，引颈拭目盼望刷新政治，但持论者还认为：“三年不要改变父皇的所作所为”，只是粗略地革除琐碎细小的事情，稍稍堵塞人言。司马光说“：先帝之法，好的即使是百世也不能改变。像王安石、吕惠卿所制定的制度，成为天下祸害，改变它就像救焚救溺一样急迫。况且太皇太后以母亲的身份改变儿子的法令制度，这不是儿子改变父亲的法令制度。”这样大家的意见才定下来。于是废除保甲团教，不再设置保马；废除市易法，把所储藏的物资都卖掉，不取息钱，免除所欠的钱物；京东铁钱及茶盐之法，都恢复其原有的制度。有人对司马光说“：熙宁、元丰旧臣，多是奸佞小人，他日有人用父子之义离间皇上，那么灾祸就发生了。”司马光正色说：“上天如果保佑宗庙社稷，肯定没有这样的事发生。”于是天下人放心了，说：“这是先帝的本意。”
元..元年(1086)，司马光再次得病，诏命他朝会时行再拜礼时，不舞蹈。当时青苗、免役、将官之法还存在，而西戎之议没有决定。司马光叹气说“：这四患不除，我死不瞑目。”他写信给吕公著说：“我把身子托付给医药，把家事托付给儿子，只有国事未有所托，今天把它交给您。”于是论免役法的五大害处，请求径直降下诏书废除它。使诸将之兵都隶属各州县，军政事务委托太守、县令一起处理。废除提举常平司，把所管事务归于转运使、提点刑狱管理。边地之计以与西戎讲和为好。说监司多为新进的年轻人务必会苛刻急于求成，令在郡守中选择举荐近臣，而在通判一级中荐举转运判官。又建议立十科荐士办法。这些都被朝廷接受。
司马光被任命为尚书左仆射兼门下侍郎，免朝觐，准许乘坐轿子，三天到省中一次。司马光不敢承受，说：“不见君主，不能够办公治事。”诏令他的儿子司马康扶他入朝应对而说“：不行拜礼。”于是废除青苗钱，恢复平常粜籴法。两宫虚位听任司马光去做。辽、西夏派使者来，必定询问司马光的身体起居情况，辽、西夏国君敕命其边吏说：“中国用司马为宰相，你们不要轻易制造事端，轻开边隙。”司马光自见言听计从，打算以身殉国，于是亲自处理各种事务，不舍昼夜。宾客见他身体虚弱，列举诸葛亮食少事烦的例子作为劝戒，司马光说：“人的生与死，是命中注定的。”工作更加努力。病情危急，他已失去知觉，谆谆不倦像梦中呓语，但都是有关朝廷、天下的事情。
这年九月司马光去世，终年六十八岁。太皇太后听到这一消息非常哀痛，与哲宗立即亲临吊唁，明堂礼成都不予庆贺，赠太师、温国公。赠以一品礼服，赠送七千银子、绢帮办丧事。诏令户部侍郎赵瞻、内侍省押班冯宗道护送灵柩，归葬陕州。谥号为文正，赐碑为《忠清粹德》。京师人民罢市前往吊祭，卖衣祭奠，在里巷间相聚号哭护送灵车。及到下葬时，哭者就像痛哭自己的亲人一样。岭南封州父老乡亲，也相率备办祭祀，都城中以及四方各地都绘其像以祀，吃饭时必须祝祷。
司马光孝友忠信，恭俭正直，安居有法度，任事有礼仪。在洛阳时，每次前往夏县扫墓，一定去看问他的哥哥司马旦，司马旦年近八十，司马光像事奉严父般事奉他，像保护婴儿般保护他。司马光从小到老，讲话从不乱言，他自己说“：我没有过人之处，只是平生所做的，从没有不能对人说的事情。”诚心出于自然，于是天下人敬仰信服他，陕州、洛阳之间都为他的道德所感化，有什么事做得不好，就说“：司马君实会不知道吗？”
司马光对物质淡泊无所喜好，而对学问无所不精通，只是不喜好释、老之学，他说：“释、老的微言大义不能超出儒学，它们荒诞不经我不相信。”司马光在洛阳有田三百亩，妻子死时，卖掉田产来办丧事，他一直到死都是粗衣薄食。
绍圣初年，御史周秩首论司马光诬蔑诽谤先帝，于是全部废除他们实行的法令。章..、蔡卞奏请掘坟斫棺，哲宗不同意，于是命令削除他的赠官谥号，推倒所树立的石碑。但章..觉得不解恨，于是追贬司马光为清远军节度副史，又贬为崖州司户参军。徽宗即位，复贬为太子太保。蔡京专权擅政，又降为正义大夫。蔡京撰写《奸党碑》，令各州郡都刻石成碑。长安石工安民承担刻字任务，他推辞说：“我是愚蠢之人，本不知道立碑的用意。只是像司马相公这样的人，海内称赞他为人正直，现在说他奸邪，我是不忍心刻字。”长安府官吏大怒，打算加之以罪，安民哭着说：“徭役我不敢推辞，求求不要刻安民二字于石碑之末，恐怕得罪于后世。”听见此话的人感到惭愧。
靖康元年(1126)，恢复司马光的赠官谥号。建炎中，配飨哲宗庙庭。