第二皇子であったが、異母兄の広平親王を押しのけて、 生後間もなく立太子。 時の権力者である藤原実頼・師輔の兄弟の力が働いていたと思われる。 康保4年（967年）、 村上天皇の崩御を受けて18歳で即位。 この時初めて紫宸殿で即位式を行った。 気の病みがあり皇太子の時代から問題になっていたことから、 補佐として藤原実頼が関白につき後継の検討に入る。 しかし2人の同母弟、 為平親王（左大臣源高明が推す村上天皇第四皇子）と守平親王（右大臣藤原師尹が推す村上天皇第七皇子）との皇太子（皇太弟）をめぐる対立が起き藤原氏の後ろ楯を受け皇太弟には守平親王が立った。 さらに対立は安和の変に発展、 源高明は左遷され安和2年（969年）8月、 同母弟の円融天皇に譲位し、 太上天皇となる。 実頼は関白から摂政に移るが以降藤原氏の摂関職設置が常態化した。 譲位後は冷泉院と称される。 62歳で崩御。 記録では死因は赤痢とされている。
以後後一条天皇の即位まで約50年間弟の円融系との皇位迭立が続き、 円融系を父方、冷泉系を母方とする曾孫の後三条天皇の即位で両皇統は融合される事となった。
皇太子時代から気の病ゆえの奇行が目立ったという。大江匡房が記した『江記』などには、 足が傷つくのも全く構わず、一日中蹴鞠を続けた。 幼い頃、父帝（村上天皇）に手紙の返事として、男性の陰茎が大きく描かれた絵を送りつけた。 清涼殿近くの番小屋の屋根の上に座り込んだ。 病気で床に伏していた時、大声で歌を歌っていた。 退位後に住んでいた御所が火事になった折、避難するときに牛車の中で大声で歌を歌った。 などの「奇行」が記されている。当時の摂政だった藤原実頼と外戚関係を持たず、逆に有力な跡継ぎとされていた為平親王が伯父の源高明を舅とし、藤原氏を刺激した（安和の変の伏線となる）事等が僅か2年で退位する原因となった。しかし普段は気の病を持つようには見えない容姿の端麗な人物だったともされる。傍目にはわからない奇行のふるまいは、実は外戚の地位を奪取された藤原元方の祟りであるとも『大鏡』は伝えている。
譲位の後、冷泉院に11年の間住んだことから冷泉院と呼ばれ、上皇生活を42年過ごした後、東三条南院にて62歳で崩御。花山天皇をはじめとする皇子女や弟円融天皇、甥の一条天皇等多くの親族に先立たれた。
追号は、後院（上皇の御所）となった冷泉院（現在の二条城の東北に嵯峨天皇が造営した離宮「冷然院」の後身）に由来する。
「院号」については、これ以前にも宇多天皇と陽成天皇には特別に贈られていたが、その他の天皇は基本的には「天皇号」であった。しかし、冷泉天皇以降は安徳天皇と後醍醐天皇のみに「天皇号」が贈られたのみで、江戸時代後期の後桃園天皇に至るまでは「天皇号」ではなく「院号」を追号する慣例となっていった。
なお、冷泉天皇は冷泉院にちなんで「冷泉院上皇」とされたため院号を適用すると「冷泉院院」となるが、院の字の重複は避けられた。天皇号復活後も「冷泉院天皇」とは改められず「冷泉天皇」となっている。「後冷泉天皇」も同じである。「後西院天皇」も「後西天皇」とされた。
陵（みささぎ）は、宮内庁により京都府京都市左京区鹿ヶ谷法然院町・鹿ヶ谷西寺ノ前町にある櫻本陵（桜本陵：さくらもとのみささぎ）に治定されている。宮内庁上の形式は円丘。
『日本紀略』によれば桜本寺前野で火葬し、その山傍に遺骨を埋葬したという。桜本寺の遺址から、明治期に現陵に治定された。
また皇居では、皇霊殿（宮中三殿の1つ）において他の歴代天皇・皇族とともに天皇の霊が祀られている。