司马光决定再面见宋神宗一次。他向神宗晓以利害，说：“眼下推行新政的只有王安石、曾布、吕惠卿三个人，朝中百官无不反对他们，难道皇上就只用这三个人来组建朝廷，治理天下吗？”
宋神宗对司马光很是冷淡。
司马光走出宫门，仰天长叹一声，写了辞呈，回洛阳专心著他的《资治通鉴》去了。
这之后，司马光和王安石之间，还发生过几次小小的波澜。譬如有一次，一个反对王安石变法的官员死了，司马光为他写墓志铭的时候，文中有讽刺变法的话，有人抄了这个墓志铭献给了王安石。不想王安石却把铭文挂在自家的墙上，空闲了就读一遍，还向人夸赞说：“君实的文章，文风直追西汉啊！”
宋英宗继位后，重新启用司马光做了宰相。第二年，王安石在穷困潦倒中病逝。那时司马光也已病重在床，他连夜向英宗上了一道奏章：“王安石一生为朝廷操劳，朝廷当以厚礼葬之！”
不久，司马光也去逝了。
这就成了他的最后一道奏章。