古代関東には「毛野（けの/けぬ）」および「那須（なす）」と呼ばれる地域と、 それぞれを拠点とする政治勢力が存在した。 そして前者の毛野が上・下に二分されて「上毛野（かみつけの/かみつけぬ）」「下毛野（しもつけの/しもつけぬ）」となったといわれる。 毛野の起こりについては、 『常陸国風土記』によると筑波はもともと紀の国であるといい、 この紀の国と毛野が同一かは不詳だが、 「毛野河」は筑波西部の郡の境界とある。 また『続日本紀』では毛野川は古くから常陸国と下総国の境界であると記されているなど、 毛野と毛野川（現在の鬼怒川）の深い関わりがうかがわれる。 『上野名跡志』では下野国河内郡衣川郷が毛野という名称の由来と推察されている。
国名の上下については、 上総国と下総国などと同様、 一国を「上」と「下」に二分したものとされるが、 備・越・筑・豊・肥等のように前後に分けられた国との違いは不詳である。 またこの分裂は史書に無く詳細は不明で、 古くから議論がある。
『大宝律令』の制定においても、 上毛野は「上毛野国（かみつけの/かみつけぬ）」として令制国の1つに定められた。 その後、上毛野国・下毛野国の国名は「上野国」・「下野国」と改められた。 この際、「毛」の字は消えたものの「こうずけのくに」として読みにその名残をとどめている。 「上毛（じょうもう）」という別称は今でも用いられている。 なお「かみつけ」からの転訛であるが、 読みは慣用的に「こうづけ」でなく、 四つ仮名の混同により（現代仮名遣いでは）「こうずけ」と振られて表記される。
読みについて、 『和名抄』には「加三豆介乃」、 『万葉集』には「可美都氣努」「可美都氣野」などが見られる。 同集で当国名が詠まれた12首のうち11首までは末尾を「努（ヌ）」と詠んでいるのに対し「乃（ノ）」としているのは1首のみで、 奈良時代頃までは「かみつけぬ」後世に「かみつけの」と読みが変わったものと推定されている。 さらに、「美」については「ウ」とも読み、 「ウ」の次の読みは濁ることが多く「ヅ」となり訛って「ノ」を省き「カウヅケ」となったとの解釈がある。 そして、「かう（二重母音）」→「こー（長母音・円唇後舌半広母音）」のように変化していったものと思われる。
「努」の読みの解釈については「努」は万葉仮名の「ノ（甲類）」であるとし、 「けぬ」は江戸時代以来の誤った読みとする説もある。 ただし、『万葉集』では「努」はもとより「野」についても「ヌ」の読みに充てている例もあるため、 「毛野」を「けの」または「けぬ」とする例も少なからず見られる。
藤原宮跡出土木簡の中には「上毛野国車評桃井里」の記載が見られる。