『古事記』の国産み神話においては、 筑紫島(九州)の4面に筑紫国、豊国、肥国、熊曽国が見える。先頭に書いてある意味が不明。
古代の南九州は『古事記』『日本書紀』の「日向神話」と呼ばれる神話の舞台となった。
この中で、天照大御神の孫の瓊瓊杵尊が高千穂に降臨し(天孫降臨)、
子の火折尊が兄・火照命を懲らしめた旨とともに、
兄の子孫の隼人が今も天皇に仕える由来だと述べ(山幸彦と海幸彦)、
火折尊の子・鸕鶿草葺不合は初代天皇・カムヤマトイワレビコ(神武天皇)の父である旨を記している。
のち、神武天皇は日向から東征に赴くこととなる(神武東征)。
現在、これらの日向神話は歴史的事実そのままとは考えられておらず、
その由来には諸説がある。
特に『古事記』『日本書紀』が成立するまで、
すなわち7世紀後半から8世紀前半の南九州における対隼人の政治情勢との密接な関係が指摘される。
隼人が名を表すのは天武天皇の時代からで、
7世紀末から8世紀前期に4回の反乱を起こしている。
そして天皇家による南九州における統治を正当化し、
隼人が服属すべき理由を過去にさかのぼって説明するものと考えられている。
7世紀中期以降の律令制の成立に伴って、 現在の鹿児島県の本土部分と宮崎県を含む広域に、日向国が成立した。
西暦702年(大宝2年8月1日)に起こった薩摩・多褹の叛乱を契機に、 同年、日向国を割いて唱更国・多褹国が分立した。
その流れの中で西暦713年(和銅6年4月3日)、 日向国の肝杯郡、囎唹郡、大隅郡、姶羅郡の四郡、 現在の鹿児島県本土の東部が大隅国として分立したのが、 大隅国の始まりとされる。
数年の内に、 囎唹郡(そおぐん。現在:曽於郡)を割いて桑原郡(姶良郡湧水町周辺)が、 西暦755年(天平勝宝7年)にさらに囎唹郡を割いて菱苅郡(現在の伊佐市周辺)が設けられ、 六郡となる。
西暦824年(天長元年10月1日)に、 現在の屋久島と種子島にあたる多禰国をあわせた。 この際、四郡あった多禰国の郡は二郡に統合され、 結果大隅国は八郡となる。
平安時代には荘園の進展で姶羅郡(現在の鹿屋市周辺。現在の姶良郡は別)がその実を失い、 肝属郡に編入されたとみられる。
西暦1879年(明治12年)、
奄美群島(大島郡)を編入した。
西暦1897年(明治30年)には、
現在の三島村、十島村地域が薩摩国川辺郡から大島郡に編入された。