马超之战败渭南也，走保诸戎。太祖追至安定，而苏伯反河间，将引军东还。阜时奉使，言于太祖曰："超有信、布之勇，甚得羌、胡心，西州畏之。若大军还，不严为之备，陇上诸郡非国家之有也。"太祖善之，而军还仓卒，为备不同。超率诸戎渠帅以击陇上郡县，陇上郡县皆应之，惟冀城奉州郡以固守。超尽兼陇右之众，而张鲁又遣大将杨昂以助之，凡万余人，攻城。阜率国土大夫及宗族子弟胜兵者千余人，使从弟岳于城上作偃月营，与超接战，自正月至八月拒守而救兵不至。州遣别驾阎温循水潜出求救，为超所杀，于是刺史、太守失色，始有降超之计。阜流涕谏曰："阜等率父兄子弟以义相励，有死无二；田单之守，不固于此也。弃垂成之功，陷不义之名，阜以死守之。"遂号哭。刺史、太守卒遣人请和，开城门迎超。超入，拘岳于冀，使杨昂杀刺史、太守。阜内有报超之志，而未得其便。顷之，阜以丧妻求葬假。阜外兄姜叙屯历城。阜少长叙家，见叙母及叙，说前在冀中时事，歔欷悲甚。叙曰："何为乃尔？"皋曰："守城不能完，君亡不能死，亦何面目以视息于天下！马超背父叛君，虐杀州将，岂独阜之忧责，一州士大夫皆蒙其耻。君拥兵专制而无讨贼心，此赵盾所以书弑君也。超强而无义，多衅易图耳。"叙母慨然，救叙从阜计。计定，外与乡人姜隐、赵昂、尹奉、姚琼、孔信、武都人李俊、王灵结谋，定讨超约，使从弟谟至冀语岳，并结安定梁宽、南安赵衢、庞恭等。约誓既明，十七年九月，与叙起兵于卤城。超闻阜等兵起，自将出。而衢、宽等解岳，闭冀城门，讨超妻子。超袭历城，得叙母。叙母骂之曰："汝背父之逆子，杀君之桀贼，天地岂久容汝，而不早死，敢以面目视人乎！"超怒，杀之。阜与超战，身被五创，宗族昆弟死者七人。超遂南奔张鲁。
陇右平定，太祖封讨超之功，侯者十一人，赐阜爵关内侯。阜让曰："阜君存无扦难之功，君亡无死节之效，于义当细，于法当诛。超又不死，无宜苟荷爵禄。"太祖报曰："君与群贤共建大功，西上之人以为美谈。子贡辞赏，仲尼谓之止善。君其剖心以顺国命。姜叙之母，劝叙早发，明智乃尔，虽杨敞之妻盖不过此。贤哉，贤哉！良史记录，必不坠于地矣。"
太祖征汉中，以阜为益州刺史。还，拜金城太守，未发，转武都太守。郡滨蜀汉，阜请依袭遂故事，安之而已。会刘备遣张飞、马超等从沮道趣下辩，而氐雷定等七部万余落反应之。太祖遣都护曹洪御超等，超等退还。洪置酒大会，令女倡著罗觳之衣，蹋鼓，一坐皆笑。阜厉声责洪曰："男女之别，国之大节，何有于广坐之中裸女人形体！虽桀、约之乱，不甚于此。"遂奋衣辞出。洪立罢女乐，请阜还坐，肃然惮焉。及刘备取汉中以逼下辩，太祖以武都孤远，欲移之，恐吏民恋土。阜威信索著，前后徙民、氏，使居京兆、扶风、天水界者万余户，徙郡小槐里，百姓襁负而随之。为政举大纲而已，下不忍欺也。文帝问侍中刘晔等："武都太守何如人也？"皆称阜有公辅之节。未及用，会帝崩。在郡十余年，征拜城门校尉。阜常见明帝著绣帽、被缥绫半裒。阜问帝曰："此于礼何法服也？"帝默然不答，自是不法服不以见阜。迁将作大匠。时初治富室，发美女以充后庭，数出入弋猎。秋，大雨震电，多杀鸟雀。阜上疏曰："臣闻明主在上，群下尽辞。尧、舜圣德，求非索谏。大禹勤功，务卑宫室，成汤遭旱，归咎责己。周文刑于寡妻，以御家邦。汉文躬行节俭，身衣弋绨。此皆能昭令问，贻厥孙谋者也。伏惟陛下奉武皇帝开拓之大业，守文皇帝克终之元绪，诚宜思齐往古圣贤之善治，总观季世放荡之恶政。所谓善治者，务俭约、重民力也；所谓有恶政者，从心恣欲，触情而发也。惟陛下稽古世代之初所以明赫，及季世所以衰弱至于泯灭，近览汉末之变，足以动心诫惧矣。囊使桓、灵不废高祖之法，文、景之恭俭，太祖虽有神武，于何所施其能邪？而陛下何由处斯尊哉？今吴、蜀未定，军旅在外，愿陛下动则三思，虑而后行。重慎出入，以往鉴来，言之若轻，成败甚重。顷者天雨，又多卒暴雷电非常，至杀鸟雀。天地神明，以王者为子也，政有不当，则见灾谴。克己内讼，圣人所记。惟陛下虑患无形之外，慎萌纤微之初，法汉孝文出惠帝美人，令得自嫁；顷所调送小女，远闻不令，宜为后图。诸所缮治，务从约节。《书》曰："九族既睦，协和万国。"事思厥宜，以从中道，精心计谋，省息费用。吴、蜀以定，尔乃上安下乐，九亲熙熙。如此以往，祖考心欢，尧、舜其犹病诸。今宜开大信于天下，以安众庶，以示远人。"时雍丘王植怨于不齿，藩国至亲，法禁峻密，故阜又陈九族之义焉。诏报曰："间得密表，先陈往古明王圣主，以讽暗政，切至之辞，款诚笃实。退思补过，将顺匡救，备至悉矣。览思苦言，吾甚嘉之。"