太尉最早始于秦国，是治军领兵的重臣。
到了北宋时期，实际上沿袭隋唐时期的习惯，三师（太师、太傅、太保）、三公（太尉、司徒、司空）为朝廷官职中相对最高的品级，但是它们都没有什么实际职事，一般只是作为加官。或者作为升迁资序所用，并没什么执掌的职力。
而其中的太尉，在一开始时是在太保之下，但是从五代以来则不断提升，直至仅次于太师而在太傅之上，也就是太师、太尉、太傅这样的新顺序。
宋徽宗年间，重定武官制度后，太尉成为武阶官之首，而司徒司空则取消被少师、少傅、少保代替。
因为宋朝的太尉是武阶官的最高位，所以在官场上，对于许多升到较高官阶，但实际并未获得太尉之职的官员，也会奉承为“太尉”。
宋朝比较出名的太尉实职有高俅、岳飞。
太尉之名最早见于《吕氏春秋》，中国古代职官。西汉始置，为最高军事长官，与丞相、御史大夫并称三公。太尉往往在国家有重大军事行动时才任命，事毕则改官。西汉军制，平时，中央军队分隶卫将军和诸校尉，战时任命骠骑将军、车骑将军、材官将军等诸将军指挥，太尉是皇帝在军事上的最高顾问，并不直接领兵。
汉武帝时，改太尉为大司马，作为大将军、骠骑将军的加号。东汉，复置太尉官，与司徒、司空为三公。历代沿置，均为加官，无实际职务。到元朝时被废止
太尉，中国古代官职名称。是中国古代中央掌管军事的最高官员，为全国最高军事长官，执掌天下军政事务。
光武帝建武二十七年（公元51年），将大司马改为太尉。东汉时期，以太尉、司徒、司空为三公，太尉管军事，司徒管民政，司空管监察，分别开府，置僚佐。后曹操撤销三公制，自任丞相。魏文帝时期曾短暂恢复，后又撤销。自隋撤销府与僚佐，便渐次演化成优宠宰相、亲王、使相的加官、赠官。元不常置。明废。
