小学通常是6岁入学，学生在校学习日常生活所必需的基础科目。初中主要是教授学生今后服务于社会的基础知识和基本技能。小学和初中为义务教育，就学率为100%。日本宪法第26条规定，父母有义务让子女接受义务教育。进行义务教育的机构多为地方政府创办的公立学校，也有一些高中是私立学校。
高中设有“一般教育科目”和“专业技能科目”。“一般教育科目”着重培养学生的全面素质；专业技能科目着眼于训练学生的一技之长，包括工业、农业、商业、水产业等科目。
高中毕业后经过大学升学考试或推荐可升入大学就读。日本的大学既是教育机构又是科研机构，一般开设基础课和各领域的专业课。本科阶段学制通常为4年（医科和牙科为6年），研究生阶段硕士生为2年，博士生为3年。大学分为国立、公立和私立三种，从数目上来看，私立大学要远远多于国立大学和公立大学。此外还有短期大学，相当于中国的大专，学制为两年。另外，初中毕业后还可进入高级专门学校学习，学制为5年，大致相当于中国的中专、职高或技校。学龄前儿童在上小学之前要进入幼儿园或保育园，接受学龄前教育。
