In anul 710 prima capitala japoneza stabila a fost constituita la Nara, un oras modelat dupa capitala chineza. In aceasta noua capitala au fost construite mari manastiri budiste. Manastirile au obtinut cu abilitate o influenta politica atat de puternica incat, pentru a apara pozitia imparatului si a guvernului central, capitala a fost mutata la Nagaoka in 784, si in sfarsit la Heian (Kyoto) in 794 unde trebuia sa ramana pentru inca o mie de ani.

O trasatura a perioadelor Nara si Heian este declinul progresiv al influentei chineze care, totusi, a ramas puternica. Cateva din ideile straine au fost treptat „japonizate”. Pentru a satisface nevoile specifice ale japonezilor, de exemplu, multe birouri guvernamentale au fost infiintate in plus fata de sistemul de guvernare care a fost copiat dupa modelul chinez. De asemenea, in arte, miscarile privind autohtonul japonez au devenit din ce in ce mai populare. Formarea silabelor Kana a facut viabila conceperea unei literaturi japoneze adevarate. Multe secte budiste noi care au fost acceptate din China in timpul perioadei Heian, au fost de asemenea „japonizate”.

Printre cele mai mari esecuri ale reformelor Taika au fost reformele agrare si cele privind taxele: Taxele mari au fost cauza saracirii multor fermieri care au trebuit sa-si vanda proprietatile si sa devina slujitori ai detinatorilor de pamanturi mai intinse. In plus, cativa aristocrati si manastirile budiste au reusit sa obtina o scutire de taxe. Ca urmare, veniturile statului au scazut, iar de-a lungul secolelor, puterea politica a trecut incet si sigur de la un guvern central catre detinatorii (independenti) de mari intinderi de pamant.

Familia Fujiwara a influentat situatia politica in timpul perioadei Heian dupa multi ani de casatorii strategice cu familia imperiala si ocuparea tuturor functiilor politice majore din Kyoto si provinciile importante. In anul 1016 puterea clanului a ajuns la apogeu cu Fujiwara Michinaga. Dupa Michinaga, totusi, eficienta conducatorilor Fujiwara a inceput sa scada, iar ordinea publica n-a mai putut fi mentinuta. Multi proprietari de pamanturi si-au angajat samurai pentru protectia proprietatilor lor. In acest fel clasa militara a devenit din ce in ce mai dominanta, mai ales in estul Japoniei.

Dominatia Fujiwara s-a terminat in 1068 cand noul imparat Go-Sanjo a decis sa conduca tara de unul singur, iar Fujiwara n-au putut sa-l controleze. In anul 1086 Go-Sanjo a renuntat dar a continuat sa conduca din spatele scenei politice. Acest nou fel de a guverna a fost cunoscut drept guvern Insei. Imparatii Insei si-au exercitat puterea politica din 1086 pana in 1156 cand Taira Kiyomori a devenit noul conducator al Japoniei.

In timpul secolului al XII-lea doua familii militare, cu sprijin din partea aristocratilor, au capatat multa putere: familiile Minamoto (sau Genji) si Taira (sau Heike). Taira au inlocuit multi nobili Fujiwara in functiile principale in timp ce Minamoto au castigat experienta militara unind parti din nordul Honshu sub control japonez in ceea ce a fost Primul Razboi de Noua Ani (1050 – 1059) si Al doilea Razboi de Noua Ani (1083 – 1087).

Ulterior, dupa ascensiunea Heiji (1159), o lupta pentru putere intre cele doua familii, Taira Kiyomori devina conducatorul Japoniei si familia lui conduce tara din 1168 pana in 1178 prin intermediul imparatului. Principalele amenintari de care acesta trebuia sa tina cont nu veneau doar din partea familiei rivale Minamoto, dar si din partea manastirilor budiste militante, care purtau deseori razboaie intre ele si tulburau linistea publica.

Dupa moartea lui Kiyomori clanurile Taira si Minamoto au avut o confruntare pentru a decide suprematia, numita Razboiul Gempei, care a durat din 1180 pana in 1185. Spre sfarsitul razboiului, Minamoto au reusit sa incheie suprematia Taira, iar Minamoto Yoritomo a devenit conducatorul Japoniei. Dupa ce si-a invins toti inamicii potentiali si pe cei periculosi, inclusiv membri apropiati ai familiei, a fost numit Shogun (cel mai inalt grad militar) si si-a stabilit administratia in orasul sau natal Kamakura.