1926年秋召开研究会之后，改进社按照《宣言》的方向，加紧进行了乡村师范学校的具体准备，成立了校务理事会，改进社理事蔡元培任理事长。对陶行知来说，这是他酝酿了很久的设想，总算就要付诸实现了。
在南京郊外，他积极进行了“试验乡村师范学校”的筹备工作。1927年3月15日在举行开学典礼的时候，陶行知作为校长，决定正式把学校命名为“晓庄师范学校”。晓庄位于南京和平门到燕子矶一带，在周围约40华里的区域内建立了学园村。举行开学仪式那天，参加的学生有13名[34]。据说原预定招募学生20名。学生若是初中毕业以上，则不受其年龄限制。入学考试除作文、数学外，再简单进行一段演说，以及能否胜任体力劳动的测试。每半年招收一次新生。到1929年就有了相当多的学生，但准确数目不详。学园村以晓庄学院本部为中心，下属7所小学，其中4所学校附设有幼稚园，不久又创建了一所中学，还建起大礼堂、图书馆、音乐厅、标本陈列室、研究室等。这些建筑物几乎全是开学后，陶校长和指导员（不称教师）以及学生们自己劳动建造的。
在当时的教育杂志上，刊登了一首署名“明道”的人写的诗，诗里这样写道：