律令制初期においては軽々しく任命する事の出来ない役職であるとして、代わりに
皇族のみが任じられる同格の「
知太政官事(ちだじょうかんじ)」が設置されていた。こうした事情より、太政大臣に代わって
左大臣が太政官を統括する慣例が生じたが、後には臣下の者が太政大臣に任命されるようになり、
藤原良房及び
基経が太政大臣と
摂政を兼ねると、太政大臣と摂政の職掌の違いは何か、あるいは太政大臣と左大臣が並存する場合にはどちらが太政官を統括するかで混乱が生じた。そこで、
元慶8年
5月9日(
884年6月5日)、
光孝天皇は
菅原道真・
大蔵善行ら学者らを召して太政大臣の権限について意見を出させた。その結果、太政大臣は、あくまでも天皇の師範として有徳の功労者が任命される職であって政治的権力を有さず、太政官の
公事には関与しないこととされた(ただし、摂政・
関白を兼ねる場合にはその権限に由来する政治的権限を持つことになる)。(『
日本三代実録』)
生前の叙任が少ない太政大臣は、死後の贈官として、
摂関、
天皇の外祖父、
江戸時代の
将軍などに贈られることがある。こうした生前の功績に対して、没後に太政大臣官職を贈られた場合には、「
贈太政大臣」となる。また
織田信長のように事実上の執権者が叙任を受けずに死亡したことを鑑みて、後世(
大正時代)に改めて追贈された例もある(正確には、死の直後に
従一位太政大臣が贈位され、大正時代に
正一位が改めて贈られた)。