伊豆国の記載は記紀や『六国史』には見られない。 「国造本紀」によれば、神功皇后の時に服部氏族の伊豆国造を定めたが、 孝徳天皇の時に駿河国に合わせ、 天武天皇の時に再び元のように分けたという。 また『扶桑略記』によれば、 天武天皇9年（680年）7月駿河国から2郡（田方郡と賀茂郡か）を分割して伊豆国としたという。 また藤原宮跡出土の木簡に「伊豆国仲郡」とあることから、 遅くとも和銅3年（710年）までの間に那賀郡が成立していることになる。
しかし伊豆国が成立後に一旦駿河国に併合されたという「国造本紀」の記述には積極的な裏付けがないとする意見がある。 伊豆は前方後円墳や前方後方墳がそれほどなく独立勢力があったと考えにくいということから、 天武天皇9年まで伊豆は駿河国の支配下にあったと考える説がある。 ただし波多国造、都佐国造、島津国造、久比岐国造、洲羽国造のように国造が設置されれば必ず大型の古墳が多数築造されたわけではない。 一方、賀茂郡について氏族構成などの独自性を認め、 大化改新以前に伊豆国造の支配する伊豆国が存在していたとする論考もある。
律令法においては遠流の対象地となった。 これは伊豆諸島が隠岐・佐渡と並んで辺境の島であると考えられ、 伊豆半島はその入り口とされた事が背景にあると言われている。
戦国時代には堀越公方の足利茶々丸を攻め滅ぼし、 伊勢盛時（北条早雲）が伊豆の国主となる。 江戸時代（文禄から元禄の間）に君沢郡が分けられ、4郡となった。 中世、金の産出では東北地方と並んでいた。
なお、伊豆諸島については律令制においては賀茂郡に属していたが、 江戸時代に入ると江戸幕府の直轄とされた。