司马光接到回信，气得要命。但是眼看王安石有皇帝撑腰，也无可奈何。最后，他辞去朝廷职务，离开京城，到了洛阳，表示不愿过问政事，关起门来写书了。
原来，司马光对历史很有研究，他认为治理国家的人，一定要通晓从古以来的历史，从历史中吸取兴盛、衰亡的经验教训。他又觉得，从上古到五代，历史书实在太多，做皇帝的人没有那么多时间看。于是，他很早就动手编写一本从战国到五代的史书。宋英宗在位的时候，他把一部分稿子献给朝廷。宋英宗觉得这本书对巩固王朝统治有好处，十分赞赏这项工作，专门为他设立一个编写机构，叫他继续编下去。
宋神宗即位以后，司马光又把编好的一部分献给宋神宗。
宋神宗并不信司马光的政治主张，但是对司马光编书却十分支持。他把自己年轻时候收藏的二千四百卷书都送给司马光，要他好好完成这部著作。还亲自为这本书起了个书名，叫《资治通鉴》（“资治”就是能帮助皇帝治理天下的意思）。
司马光罢官回到洛阳之后，就专心写《资治通鉴》，一共花了十九年时间，才把这部著作完成。这部书按历史年代编写，从战国时期公元前403年到五代时期公元959年，记载了一千三百六十二年的历史。
为了写这一部巨大篇幅的著作，司马光和他的助手们收集和整理了大量资料，除了采用历代的正史之外，还参看各种历史著作三百多种。据说，这部书写成的时候，原稿足足堆放了两间屋子。由于它的材料丰富、剪裁恰当和考证严格，加上文字精练生动，所以成为我国史学史上最有价值的著作之一。它对于后来的人研究历史，提供了比较完备的资料。
