『日本書紀』の西暦676年（天武天皇5年）に天武天皇が「新城/新木（にいき。奈良県大和郡山市新木町）」の選定に着手し、
その後も「京師（けいし。日本で天皇の都のこと。文脈上意味不明）」に巡行したという記述がある。
これらの地が何処を指すのかは明確な結論は出ていないが、
発掘調査で発見された規格の異なる条坊などから、
藤原京の造営は天武天皇の時代から段階的に進められたという説が有力である。
天武天皇の死後に一旦頓挫した造営工事は、 西暦690年（持統天皇4年）を境に再開され、 4年後の西暦694年（持統天皇8年）に、 の（倭京）から宮を遷し藤原京は成立した。 以来、宮には持統・文武・元明の三代にわたって居住した。
それまで、天皇ごと、
あるいは一代の天皇に数度の遷宮が行われていた慣例から3代の天皇に続けて使用された宮となったことは大きな特徴としてあげられる。
この時代は、刑罰規定の律、行政規定の令という日本における古代国家の基本法を、
飛鳥浄御原（あすかきよみはら）令、
さらに大宝律令で初めて敷いた重要な時期と重なっている。
政治機構の拡充とともに壮麗な都城の建設は、
国の内外に律令国家の成立を宣するために必要だったと考えられ、
この宮を中心に据え条坊を備えた最初の宮都建設となった。
藤原京に居住した人口は、京域が不確定なため諸説あるが、
小澤毅による推定では4 - 5万人と見られている。
その多くは貴人や官人とその関係者や、夫役として徴集された人々、百姓だった。
自給自足できる本拠地から切り離された彼らは、
食料や生活物資を外界に依存する日本初の都市生活者となった。
西暦708年（和銅元年）に元明天皇より遷都の勅が下り、
西暦710年（和銅3年）に平城京に遷都された。
藤原宮の遺構からは、
平城遷都が決まる時期に至っても朝堂を囲む回廊区画の工事が続いていたことを示す木簡が出土しており、
藤原京が未完成のまま放棄された可能性を示唆している。
その翌年の西暦711年（和銅4年）に、
宮が焼けたとされている（『扶桑略記』、藤原宮焼亡説参照）。
『扶桑略記』に、藤原京と大官大寺が西暦711年（和銅4年）に焼失したという記事がある。
これが事実だとすると、遷都の翌年に焼けたことになる。
しかし、藤原京跡での発掘で、火災の痕跡は発見されていない。
一方、大官大寺は金堂や塔、回廊で焼け落ちた痕跡が見つかった。
遺物から8世紀ごろのものとみられる。