在远古的颛顼时代，当时任命南正的人名为重，负责管理天文台；北正的职位则由黎掌管。历史演变至周宣王时期，重和黎的后代逐渐转变为司马一职，主管军事，其后人便以司马为姓，开始负责管理周朝的。这一切大约发生在公元前650年左右，司马家族离开周朝都城洛阳，前往晋国，之后又在少梁（今韩城市南）定居。
在楚汉相争的乱世之际，司马家出现了五大夫——司马喜。汉朝建立之后，司马喜司马谈承袭了太史令的职位，也被称为太史公。
司马谈曾经拜唐都为师学习天文知识，跟随杨何探究易经的奥秘，并向黄先生请教。他生活在汉武帝的时代，感叹世人学习不能领悟真正含义反而背离本意，因此撰写了六家总要供世人学习。
司马谈膝下有一子，名为司马迁。司马迁出生于龙门（现韩城市东北），童年时期曾在黄河岸边放牧，十岁就能背诵古文。二十岁时开始游历天下，南到长江淮河流域，探访会籍、禹穴，沿沅江、湘江而下；北渡汶水、泗水，赴淄博、曲阜学习儒家文化，从睢阳、彭城回归。此后，司马迁出任郎中，公元前111年受命出使巴蜀之南，直至昆明方返回复命。
这一年，汉武帝首次封禅泰山，司马谈因故未能亲临洛阳一带参加封禅仪式而郁郁而终。刚从外地返回的司马迁得以见到父亲最后一面。司马谈拉着儿子的手含泪诉说：“我们祖先自周朝起便担任太史之职，从夏朝起便开始记录和管理，此传统一直延续至今。你应当继承这一使命，继续担任太史令一职。如今汉武帝盛世封禅泰山，我未能亲身参与实在遗憾。我希望你能在未来接任太史令后不忘初心我所期待的史记之作。真正的孝不仅在于侍奉父母和君王，更在于扬名后世让父母的名字发扬光大。现今汉朝繁荣强大一统天下出现了多位明君贤臣忠良勇士我作为太史未能记录实在遗憾至极你必须铭记。”司马迁磕头流泪表示一定会继承父亲遗志继续整理家族资料不敢忘记使命。
