中国在4000多年前就有了学校，那时学校的名字叫“庠”。高一级的大学叫“上庠”，低一级的小学叫“下庠”。
到了夏朝（公元前21世纪——公元前16世纪）把学校又分成了四个等级，按级别叫做：“学”、“东序”、“西序”、“校”。
到商朝（公元前16世纪~公元前1066年）时，又把这四种学校的名字给为：“学”、“右学”、“左学”、“序”。后来的朝代还有在王府里设立的学校，叫“辟雍”、“成均”等。
到汉代（公元206年~公元23年），一级的学校称做“太学”，下面分别称做“东学”“西学”“南学”“北学”。再后来把“太学”改为“国子学”，“国子寺”，“国子监”。汉代，是中国古代教育史上一个比较昌盛的时期。汉代的学校分为官学与私学两种。其中私学的书馆，亦称蒙学，即启蒙的学塾。相当于幼儿园或小学。