《史记·商君列传》载：秦孝公十二年(前350年)，商鞅进行第二次变法，秦国颁布了一批旨在封建变革的法令，其中一项重要内容就是把都城从栎阳迁往咸阳，商鞅“作为冀阙宫廷于咸阳，秦自雍徙都之”。
此处“宫廷”即秦国首都咸阳城中的王宫，自秦国统治者迁都咸阳后，它一直为秦的历代国君的大朝之地。秦始皇时在渭水南岸修筑新朝宫——阿房宫，就是想取代渭北的朝宫——“先王之宫廷”，这处作为王宫或皇宫使用的“宫廷”之名即“咸阳宫”。历代秦王和秦始皇接见各诸侯国使臣、贵宾，为皇帝祝寿举行盛大国宴，与群臣决定国家大事都在咸阳宫中进行。因此《三辅黄图》称咸阳宫“以则紫宫，象帝居”。
秦孝公十二年(前350年)，秦国迁都咸阳，“秦孝公筑渭城，名咸阳宫。有四皓祠、安陵城、杜鄠亭、窦氏泉、周文王祠。”商鞅首先在城内营筑冀阙，以后历代秦王又增建了许多宫殿，至迟到秦昭王时，咸阳宫已建成。
《史记·秦始皇本纪》记载，秦始皇统一全国的过程中，“每破诸侯，写放其宫室”，即秦国每灭掉一国，都要在在咸阳塬上仿建该国的宫殿，扩建皇宫，渭水北岸建成了各具特色的“六国宫殿”，“冀阙”、“甘泉宫”、“上林苑”等宫室145处、宫殿270座。各宫之间又以复道、甬道相连接，形成繁华的大都市。诸多典籍文献都记载了咸阳宫的规模和盛况，《汉书》载：“秦起咸阳，西至雍，离宫三百”;《史记》云：“咸阳之旁二百里内，宫观二百七十”。
汉帝国建立后，定都长安，在政治体制、经济制度、社会文化等各方面“汉承秦制”，反映出汉王朝对秦的继承关系，这种继承关系反映在秦汉社会的方方面面，在皇宫的建设中也得到了充分体现。汉长安“长乐宫”，是由秦的“兴乐宫”改建而成，“未央宫”为秦“章台”改建，“桂宫”为秦“甘泉宫”改建。
北周时期，咸阳宫仍然颇具规模，《周书·帝纪第七》记载：“壬午，幸(中)山祈雨。至咸阳宫，雨降。甲申，还宫。令京城士女于衢巷作音乐以迎候。”
唐代，李吉甫编纂的地理总志《元和郡县图志》记载了当时咸阳宫的状况：“渭水南有长乐宫，渭水北有咸阳宫……”
唐末，由于军阀混战，咸阳宫随着长安城的大规模破坏最终完全毁灭。
