中国在4000多年前就有了学校，那时学校的名字叫“庠”。高一级的大学叫“上庠”，低一级的小学叫“下庠”。
到了夏朝（公元前21世纪——公元前16世纪）把学校又分成了四个等级，按级别叫做：“学”、“东序”、“西序”、“校”。
到商朝（公元前16世纪~公元前1066年）时，又把这四种学校的名字给为：“学”、“右学”、“左学”、“序”。后来的朝代还有在王府里设立的学校，叫“辟雍”、“成均”等。
到汉代（公元206年~公元23年），一级的学校称做“太学”，下面分别称做“东学”“西学”“南学”“北学”。再后来把“太学”改为“国子学”，“国子寺”，“国子监”。汉代，是中国古代教育史上一个比较昌盛的时期。汉代的学校分为官学与私学两种。其中私学的书馆，亦称蒙学，系私塾性质，相当于小学程度。
到2012现在近的明朝也有（公元1368年——公元1644年）、清朝（公元1644年——公元1911年），“国子监”已经不是学校的性质了；成为国家专门管理教育的机构。而这时候一般的学校称为“书院”、“书堂”、“私塾”等。
光绪二十九年，清政府颁布《奏定学堂章程》，不但明确了整个学校教育制度，而且还规定了各级学校的课程。《奏定学堂章程》里公布的小学课程是中国套正式的小学课程。