元朝的军队分蒙古军、探马赤军、汉军(金朝降军和蒙古政权、元政府在北签发的军队)、新附军(收编南宋的军队)。兵役制度是,在蒙古草原从事游牧的蒙古人,保留成吉思汗创立的兵民合一的千户制,平时屯聚牧养,战时出军。在汉地和江南则从军户中签发丁男应役。
蒙哥初年,军户制度已基本确立。宪宗二年(公元1252年)登记户口时,已明确区分民户和军户。探马赤军、汉军、新附军以及进入内地的大多数蒙古人户,皆登记为军户,以后又陆续有一些汉族和其他各民族人户被签入军户。签发汉军时,一般取中户。凡户出一人者,称为独军户;合二、三户出一人,则出丁男户为正军户,余为贴军户,共同资肋出军者所需鞍马、器仗等物。至元元年(公元1264年)规定军户和站户(在驿站服役人户)减半纳地税,豁免杂泛差役,后来改为免税粮4顷,称“赡军地”。军户应役由奥鲁办理。蒙古人出征时,其家口、辎重屯于驻地,称为奥鲁。《蒙古秘史》译为“老小营”、“老营”。元朝发展为完善的奥鲁制度。蒙古军、探马赤军的军户,由隶属其所在地区千户、万户的奥鲁管理。管理汉军军户的奥鲁由管民官兼领。对新附军军户未设奥鲁。奥鲁的主要职责,一是从军户中签发丁男应役,对“死亡患难,有所存恤”;二是为起发当役者置备鞍马、器仗、盘缠等。
元朝的防卫分宿卫和镇戍两大系统。宿卫军由怯薛军和侍卫亲军构成,其任务是怯薛军保留了成吉思汗始创的四怯薛轮番入侍的制度,常额在万人以上;侍卫亲军用于保卫京畿。至元末先后增置30余卫,卫设都指挥史或率史,隶属于枢密院。镇戍军的布局由蒙古军和探马赤军戍守靠近京畿的要地,华北、陕西、四川的蒙古军、探马赤军由各地的都万户府(都元帅府)统领,隶属于枢密院。南方以蒙古军、汉军、新附军共同驻守,防御重点是临江沿淮地区,隶属于各行省。镇戍诸军,有警时由行枢密院统领,平时日常事务归行省,但调遣更防等重要军务则归属枢密院决定。