“太上皇”一词，最早见于《史记·秦始皇本纪》，其曰:“追尊庄襄王为太上皇。”这是死而追尊，与周朝的“太王”十分相似。至汉高祖得天下后奉其父太公曰太上皇，“太上皇”就变成了生号，后代相沿不改。
太上皇由死后追尊之号变为生号，有段历史故事:
汉高祖六年（公元前201年），高祖刘邦回到栎阳，五日一朝父亲太公。太公的家令对太公说:“天亡二日，土亡二主”，皇帝虽然是您的儿子，但却是万民之主，太公您虽然是父亲，却是皇帝的臣民，怎么能让皇帝拜臣民呢？这样，皇帝的威严就受到损害。从此以后，太公上朝，就像士卒持帚扫地那样，每到殿门口，就却退行走，以表示对皇帝的恭敬。刘邦一见大惊，马上下殿搀扶太公。太公说，皇帝是万民之主，怎么能因为我而乱天下之法呢？于是，刘邦从心眼里佩服家令的话，赐给家令五百斤黄金。
这年五月丙午，刘邦便发布一道诏书，其云:
人之至亲，莫亲于父子，故父有天下传归于子，子有天下尊归于父，此人道之极也。前日天下大乱，兵革并起，万民苦殃，朕亲被坚执锐，自帅士卒，犯危难，平暴乱，立诸侯，偃兵息民，天下大安，此皆太公之教训也。诸王、通侯、将军、群卿、大夫已尊朕为皇帝，而太公未有号，今上尊太公曰太上皇《汉书》卷1下《高帝纪》。。
为什么称“太上皇”而不称“太上皇帝”呢？蔡邕的解释是:“太上皇不言帝，非天子也。”颜师古注称:“天子之父，故号曰皇。不预政治，故不曰帝也。”
这是太上皇的原始含义。
后代的“太上皇”，则自己本来就是皇帝，而以帝位传其子，自称“太上皇帝”者。从皇权的转移形态而言，它是一种皇位继承的特殊形式，即是在老皇帝还活着的时候，以“内禅”的方式，把皇位转让给儿子。
“内禅”起源很早。“《左传》晋景公有疾，立太子州蒲为君，会诸侯伐郑。《史记》赵武灵王传国于子，惠文王自称主父。此内禅之始”《日知录》卷14《内禅》。。考诸正史，各代以内禅的形式而成为太上皇帝者，前后共有15人。此外，还有两个人称过“太上皇”，但不是“内禅”，而是送给被废黜皇帝的一种称号。例如，晋惠帝时所发生的“八王之乱”过程中，赵王司马伦与梁王司马彤、齐王司马冏联兵诛死了皇后贾南风及其死党，司马伦一度当权。司马伦曾将晋惠帝赶到金镛城幽禁起来，称其为“太上皇”，而自己称皇帝，改元建始。又如，在隋末农民战争过程中，隋炀帝于大业十三年（公元617年）游巡江都，而以13岁的代王侑留守京师。唐王李渊率兵攻入长安，奉立代王侑为恭帝，“尊炀帝为太上皇”《隋书》卷5《恭帝纪》。。这两个“太上皇”的出现，一个发生在“八王之乱”，一个发生在农民战争过程中，虽有“太上皇”之名，但却不具备“太上皇”的实际意义，更不是内禅，所以只能视作特例。
