曹操死後，有一批人，他們不但資歷老，而且功績更為顯赫，與曹氏父子的關係更為密切，但他們既沒有出現在三公九卿之中，也沒有出現在尚書檯的名單裡，因為他們的身份是軍人。也可以說他們是一群職業軍人，下面簡單介紹一下曹魏的軍制。
在曹操時期，通過改組丞相府，由其下設的軍事指揮和參謀機構來負責軍事管理和指揮。魏朝建立後，這種模式也需要重組，以更加符合朝廷體制的要求。秦漢以來的軍制，由低至高大約星以下順序:伍長——什長——都伯一百人將——部曲督——別部司馬都尉——校尉——中郎將——裨將軍——偏將軍——雜號將軍——四征、四安、四鎮、前後左右將軍——衛將軍——驃騎、車騎將軍——大將軍。
現在軍隊常見的基本單位有班、排、連、團、師等，那時基本的單位是曲、部、校尉、軍等。一部有千人左右，大約是個團吧;校尉相當於師長;中郎將低於偏、裨將，可以看作準將;偏將和裨將是副軍長，所謂雜號將軍，如常見的伏波將軍、蕩寇將軍等，可以看作一個軍的長官，其常規編製萬人左右，與現在的軍長相當，只是那時各軍不用序號區別，一般起個名字，如「伏波軍」「蕩寇軍」等，它們的軍長就是伏波將軍、蕩寇將軍，也就是所謂雜號將軍。
雜號可不是雜牌，只是說明無定制，隊伍叫什麼就起個什麼名字，除上面舉的伏波、醬寇外，常見的還有討虜、破虜、橫波、武威、討逆等等。雜號將軍往上，就是一些常設的將軍，名稱相對固定，有所謂四征、四安、四鎮等。「四征將軍」即征東將軍、征南將軍、征西將軍、征北將軍，「四安將軍」即安東將軍、安南將軍、安西將軍、安北將軍，「四鎮將軍」即鎮東將軍、鎮南將軍、鎮西將軍、鎮北將軍，這些名號較多，不大可能時全設，視本人功勞、資歷以及執行任務方位而定。如果雜號將軍是軍長，四征、四鎮、四安將軍就是兵團司令，可以指揮若千個軍。
再往上，就是「前後左右將軍」了，即前將軍、後將軍、左將軍、右將軍，可以視為某一方面軍的總指揮，或者大軍區的司令員，是武將軍銜較高的，在和平時期非皇親貴胄很難企及。但這還沒有到頂，再往上還有衛將軍、驃騎將軍和車騎將軍，這也不常設，視需要而設立。衛將軍職務稍低，相當於武裝部隊副總司令，驃將將軍、車騎將軍有時是武裝部隊副總司令，有時是總司令，要看上面還有沒有最後一個也是最高的那個軍職——大將軍。如果有大將軍，那大將軍就是武裝部隊總司令，衛將軍、驃騎將軍和車騎將軍可以看作是副司令，如果沒有大將軍而只有驃騎將軍或車騎將軍，那驃騎將軍或車騎將軍就是武裝部隊代總司令。從品秩上說，衛將軍、驃騎將軍和車騎將軍相當於三公，大將軍「位在三公之上」。