L'ancien japonais au sens large est le japonais tel qu'il était parlé entre le IVe siècle et le XIIe siècle (fin de l'époque Heian en 1185). Il se divise en deux périodes : le haut japonais (上代日本語, jōdai nihongo, 上 signifiant l'idée d'antériorité) et le moyen japonais (中古日本語, chūko nihongo, 中 se rapportant à l'idée d'époque médiane).