司馬懿出仕的時(shí)候，他的父親兄長(zhǎng)已經(jīng)在曹操帳下好幾年了，一開始因?yàn)樾叛鋈寮页缟姓y(tǒng)，自然對(duì)宦官之后的曹操持以鄙夷態(tài)度，曾兩次借病拒絕曹操的邀請(qǐng)。但是后來司馬懿被曹操逼著出仕，任職之后又表現(xiàn)的忠貞不二，加上他資質(zhì)才華出眾，又機(jī)遇不斷一路遷升。

在公元208年的時(shí)候，司馬懿被曹操強(qiáng)召出仕，之后跟隨曹操先征張魯、又攻孫權(quán)，后來輔佐太子曹丕，所出奇策眾多，受到曹丕的重視尊敬。在關(guān)羽“水淹七軍”大破曹軍的時(shí)候，曹操曾想過暫時(shí)帶著漢獻(xiàn)帝遷都別處，離開離關(guān)羽距離較近的許昌。

曹丕做了皇帝之后的幾年里，司馬懿可謂是平步青云，曹丕對(duì)其數(shù)次提拔。最后司馬懿都有點(diǎn)不好意思，于是堅(jiān)決拒絕曹丕的遷升，曹丕便對(duì)他說：“我現(xiàn)在處理國家諸多事宜，每天是夜以繼日的工作，沒有半點(diǎn)休息的時(shí)間。如今冊(cè)封你可不是對(duì)你的獎(jiǎng)賞，而是要你替我分憂。”次年曹丕第二次討伐東吳的時(shí)候，又對(duì)司馬懿說道：“我要是東征孫權(quán)，你就在洛陽負(fù)責(zé)各項(xiàng)事宜；我要是在洛陽，你就負(fù)責(zé)東征孫權(quán)?！边@些記載足可見曹丕非常信任司馬懿。

在公元226年的時(shí)候，曹丕病重，臨終前召來司馬懿、曹真、陳群等人，對(duì)太子曹叡說：“要是有人向你離間這些重臣，一定要謹(jǐn)慎處理，不要隨便懷疑他們。”曹叡即位后，便封司馬懿為舞陽侯。這時(shí)候?qū)O權(quán)得到了曹丕病逝的消息，趁機(jī)帶著大軍兵分兩路進(jìn)攻魏國，諸葛瑾進(jìn)攻襄陽，而自己則率軍攻打江夏。

申儀將此事都告訴了司馬懿，司馬懿怕孟達(dá)立刻發(fā)難，于是便送去書信安撫孟達(dá)，信上是這么說的：“昔日將軍棄劉備，國家委將軍以疆場(chǎng)重任，諸葛亮散布謠言想要離間我們的詭計(jì)，我是絕對(duì)不會(huì)相信的?！泵线_(dá)見到信后，心中猶豫不決。而此時(shí)司馬懿則率軍悄然推進(jìn)，日夜兼程，宛城離孟達(dá)相距有一千二百里，司馬懿只用了八天就兵臨城下。又用十六天破城而入，斬下孟達(dá)首級(jí)，擒獲一萬多叛軍，官員百姓無不對(duì)其心服口服。

在公元229年諸葛亮第三次北伐之后的第二年，魏明帝曹叡決定對(duì)其還以顏色，于是拜司馬懿為大將軍，命其率軍南下進(jìn)攻蜀國。司馬懿和張郃、曹真兵分三路向漢中進(jìn)發(fā)，攻占新豐縣后入駐丹口休整，只是遇到暴雨無法前進(jìn)，遂班師回朝。

蜀軍秘不發(fā)喪，撤軍退走，司馬懿便率軍追擊，這時(shí)楊儀鳴鼓吹角，擺出一副要交戰(zhàn)的樣子，司馬懿以窮寇莫追為由退走。在查看蜀軍營地的時(shí)候，看到諸葛亮生前的布置，又找到其生前的書籍和眾多的糧草，便知道諸葛亮確實(shí)已經(jīng)死了，對(duì)其稱贊道：“孔明真乃天下奇才也。”