建安十八年（213年），曹操进爵为魏公，开始建立魏国政权，初设尚书、侍中、六卿。建安二十一年（216年），操为魏王，进一步加强统治机构，以钟繇为魏相国，华歆为御史大夫。建安二十四年（219年），钟繇因其所辟西曹掾魏讽谋反而免职。
建安二十五年（220年），操死，子丕继位为魏王，以华歆为相国，贾诩为太尉，王朗为御史大夫。同年，丕代汉为帝，复置三公官，改相国为司徒，名列太尉之后。改御史大夫为司空。以贾诩为太尉，华歆为司徒，王朗为司空。黄初四年（223年），贾诩死，仍以钟繇为太尉。从三公各自的职务言：太尉主兵事；司徒主民事，司空主水土事。凡国家有大兴造、大疑难事，三公共同讨论。国家有过失，三公共同进谏。在西汉初期，丞相的权力还是较大的：他上辅皇帝，下领百僚，可以推荐三公以下的官吏。丞相在某些情况下可以不向皇帝奏请，辄诛犯罪官吏；丞相总领郡国计簿，负责对郡守、县令进行考绩。景帝、武帝不断削弱丞相权力。原先太尉官阶低于丞相，武帝废太尉，封外戚卫青为大司马大将军，是为最高武职。武帝临终，令外戚霍光以大司马大将军领尚书事，辅佐昭帝。尚书原为少府属官，其长官尚书令的秩位亦不过相当于县令，职责是给皇帝管理文书。臣民上书，先由尚书拆阅，以决定是否上呈给皇帝。这样遇有重要事件，不领尚书事的丞相事先就不知道。说明外朝丞相的实权已为内朝领尚书事的大将军所取代。刘秀重建东汉政权后，鉴于权臣王莽篡夺政权的教训，继续削减相权，三公的权力更形下降，三公不领尚书事，尚书直接向皇帝负责。曹操迎献帝都许后，以荀彧为汉侍中、守尚书令，一些军政农经大事，曹操多与荀彧商议处理。荀彧推荐了许多人担任要职。曹操所以能独揽大权，并非由于他为司空和丞相，而是由于他手握强兵，这是权臣揽权的特殊情况，那时担任御史大夫的郗虑，亦不过处处秉承操的意旨办事而已。
曹魏三公并无多少实权，《三国志》卷24《高柔传》言：
魏初，三公无事，又希与朝政。柔上疏曰：“……今公辅之臣，皆国之栋梁，民所具瞻，而置之三事，不使知政，遂各偃息养高，鲜有进纳。诚非朝廷崇用大臣之义……自今之后，朝有疑议及刑狱大事，宜数以咨访三公”。
以上是黄初四年（223年）廷尉高柔给曹丕上疏所说的话。自属可信。三公虽无决策大权，毕竟宫高禄厚，又有学行资望，且可辟用掾属，故仍为臣民所慕仰，也受到皇帝一定程度的尊礼。如曹丕有一次望见钟繇、华歆、王朗，而对左右日：“此三公者，乃一代之伟人也，后世殆难继矣”。那时，钟繇有膝疾，华歆亦高年疾病，朝廷即令二人乘舆上殿就坐。“是后三公有疾，遂以为故事”。时人对物色三公人选亦持严肃态度。如散骑侍郎孟康推荐崔林任司空时说：“宰相者，天下之所瞻效，诚宜得秉忠履正、本德仗义之士，足为海内师表者”。徐邈因朝廷任命自己为司空，乃叹曰：“三公论道之宫，无其人则缺，岂可以老病忝之哉”！遂固辞不受。贾诩足智多谋，又有拥护曹丕为太子之功，可是当贾诩被丕任命为太尉后，仍旧受到孙权的讥笑。说明当三公者仅有智能而无德望，仍受人讥议。《三国志》卷49《士燮传》载，当交州刺史丁宫被征还朝时，对其属吏士壹说：“刺史若侍罪三事，当相辟也”。后来丁宫当了司徒，果然辟士壹为掾属，说明三公有自辟用僚属之权。又如《三国志》卷11《袁涣传》载，陈郡袁涣为郡功曹，“后辟公府，举高第，迁侍御史。”按魏晋礼制，诸卿见三公，都要跪拜，桓范被任命为冀州刺史，他不愿受镇北将军吕昭的节制，谓其妻曰：“我宁作诸卿，向三公长跪耳，不能为吕子展屈也”。正因为三公位尊望重，所以当曹爽辅政时，吏部尚书何晏掌管用人大极，威势显赫，但他仍找管辂占卜，问己能否当上三公。由此可知在三国初期，三公虽无实权，但仍为时人尊重。不仅舆论界对之有较高的要求，就是被任命为三公者也往往严格要求自己，不改玷辱这样崇高而需符众望的职任。
