閻柔生于廣陽（今北京市房山區(qū)長陽鎮(zhèn)廣陽村），年少時，流浪到烏桓、鮮卑族中。長大后，深得鮮卑族人的信任。

184年，發(fā)生了黃巾軍起義，在黃巾軍的打擊下，東漢王朝名存實(shí)亡，對各地州郡失去了控制。各地官僚、豪強(qiáng)趁機(jī)爭奪地盤，形成了大大小小的割據(jù)勢力。一時間，群雄并起，天下大亂。當(dāng)時勢力較大的有袁紹、曹操、公孫瓚等。

閆柔利用這個時機(jī)，利用鮮卑的力量，殺掉了原烏桓校尉邢舉，自己取而代之。

東漢董卓之亂后，漁陽曾一度為幽州牧劉虞所控制，他注意發(fā)展?jié)O陽地區(qū)農(nóng)業(yè)生產(chǎn)，繼續(xù)開發(fā)鹽鐵資源，使?jié)O陽較為安定、富裕。劉虞在幽州統(tǒng)治時與烏桓、鮮卑族互通有無，友好往來，深受鮮卑、烏桓族尊信。劉虞是漢朝宗室，此時得到袁紹的支持。袁紹的計劃就是將劉虞擁立為“皇帝”，目的也是想挾天子以令諸侯。當(dāng)時在河北一帶，力量比較強(qiáng)大的軍閥是公孫瓚。和袁紹不和的公孫瓚在193年搶先攻擊劉虞，劉虞兵敗被殺，公孫瓚遂利用手中兵權(quán)盡占幽州之地，成為東漢末年割據(jù)一方的軍閥之一。

   公孫瓚大敗劉虞后，更加橫行無忌。當(dāng)時幽州旱災(zāi)、蝗災(zāi)不斷，甚至出現(xiàn)人吃人的慘景，而公孫瓚絲毫不知體恤百姓，奢侈揮霍無度，且對士人又大施橫暴，所以，公孫瓚在幽州大失民心，眾叛親離。

公孫瓚的倒行逆施，極大的激起了各階層人士的不滿。195年原劉虞舊屬鮮于輔等欲為劉虞復(fù)仇，便推舉閻柔為烏桓從校尉升任司馬。閻柔為人誠信，自幼在烏桓、鮮卑族中長大，擔(dān)任烏桓校尉后，在兩族中一呼百諾，此時被鮮于輔推舉為烏桓司馬，威信更加高了。他和鮮于輔輕而易舉地便招募了幽州兵和鮮卑、烏桓數(shù)萬人，一時兵強(qiáng)馬壯。經(jīng)過短期休整后，鮮于輔、閻柔率軍與公孫瓚所置的漁陽太守鄒丹大戰(zhàn)于潞縣(今北京通縣東)，大敗鄒丹，鄒軍尸橫遍野，潰不成軍。

袁紹很高興，派大將曲義寵慰閆柔，以安定北邊。烏桓峭王也感劉虞的恩德，率種人及鮮卑七千余騎，向南迎接劉虞的兒子劉和。袁紹親自率軍北上，閆柔、峭王和袁紹將合兵十萬，趁勢北上，攻打公孫瓚。

    潞縣大戰(zhàn)的敗績，本已令公孫瓚氣急敗壞，忽又聽袁紹率軍來攻，公孫瓚不禁勃然大怒，雙方在鮑丘水(今潮河)擺開戰(zhàn)場。不久，雙方開戰(zhàn)，只見袁軍生龍活虎，猛打猛沖所向無故，再看公孫瓚的軍隊(duì)疲于應(yīng)戰(zhàn)，狼狽不堪。一場大戰(zhàn)，只殺得幽州兵四散奔逃，丟盔棄甲，袁軍大獲全勝，斬首兩萬余級。袁紹率軍乘勝追擊，橫掃幽州地區(qū)。

  鮑丘水之戰(zhàn)，使公孫瓚勢力遭受重創(chuàng)，幽州各郡豪強(qiáng)乘勢而起，與袁紹聯(lián)軍共擊公孫瓚，公孫瓚一獗不振，終在198年為袁紹所滅。袁紹據(jù)有幽州。閆柔仍然為烏桓司馬。

二年前，即建安元年(196)時，曹操控制了漢獻(xiàn)帝假獻(xiàn)帝之名發(fā)號施令。建安五年(200)發(fā)動了官渡之戰(zhàn)。長于判斷的鮮于輔在此時歸附了曹操，閆柔是比較尊重鮮于輔的，所以也跟從歸附了曹操，曹操也以閻柔為護(hù)烏桓校尉，鮮于輔為左度遼將軍，讓他們回幽州鎮(zhèn)守。當(dāng)時，幽州還在袁紹的兒子袁熙控制之下。建安七年(202)，袁紹病死，其家族內(nèi)訌。建安十年(205)，幽州大部分地區(qū)被曹操所占領(lǐng)。

袁紹兒子袁尚也敗于曹操，逃奔遼西的烏桓首領(lǐng)蹋頓。當(dāng)時幽、冀人眾為避免戰(zhàn)亂，逃奔烏桓的就有十萬余戶，袁尚準(zhǔn)備憑借這些人，操練成兵，進(jìn)一步爭奪中原。

曹操意識到這一點(diǎn)，在建安十二年，曹操率大軍自征烏桓，大破蹋頓于柳城，將蹋頓斬首，俘獲了二十余萬人。袁尚、袁熙與樓班、烏延等人，繼續(xù)向遼東逃跑。遼東太守公孫度，是曹操封的武威將軍、永寧鄉(xiāng)侯。正好此時他剛因病去世，兒子公孫康即位。

蹋頓失敗之后，烏桓峭王的勢力最大，公孫康和曹操都要爭取這個勢力，曹操派遣的使者牽招和公孫康的使者韓忠在峭王面前爭論的非常激烈。峭王早和閆柔是好朋友，擊敗公孫瓚的同盟軍，此時，牽招抬出閆柔作為榜樣，峭王頓時表示服從中原王朝的管理，接受曹魏的封職。公孫康已經(jīng)收留了袁尚、袁熙，兩人也積極招兵買馬，勢力逐漸壯大。公孫康既擔(dān)心袁氏兄弟吃掉自己，又怕曹操怪罪自己，便將袁氏兄弟殺掉，表示對曹操的忠心。曹操聞報后，封公孫康為襄平侯，拜左將軍。這樣，峭王和公孫康兩大勢力都?xì)w附了曹操，遼西遼東均告平靜。

為了穩(wěn)定局面，208年7月曹操把威信頗高的閻柔任命為渤海的太守，起到統(tǒng)領(lǐng)遼西遼東的作用。

閆柔雖然統(tǒng)帥的是鮮卑、烏丸部落，但始終持漢使節(jié)，治廣寧如舊。北部鮮卑部落酋長步度根與軻比能在閻柔的勸說下，向曹操進(jìn)貢。河間田銀叛，曹操西征關(guān)中，閆柔隨行，軻比能將三千余騎追隨閆柔擊破田銀，閆柔因此立了大功。

此時，北方平定，曹操對閆柔更加信任，將降服的漢、胡二十余萬人以及隨閻柔歸附的烏桓萬余落移徙于鄴城附近諸郡，由閆柔編為齊民，擔(dān)負(fù)賦役，選其壯健者為騎兵，由侯王大人率領(lǐng)隨時聽從調(diào)遣參加征戰(zhàn)。閆柔統(tǒng)領(lǐng)他們一直到去世。