刘春霖幼时在老家河北肃宁县北石宝村读私塾，深知农村儿童读书之不易。所以，他高中状元之后，不在老家修状元府光耀门庭，而在北石宝村修建了一所小学堂，学堂的房屋、桌椅、教具，均由刘春霖出资捐助。他在学堂门口题有“铸才炉”匾额一方，并立有石碑，刻有他作的《劝学篇》一文。这所北石宝小学堂是肃宁县唯一的“义学”。
刘春霖关心乡梓教育，不仅慷慨解囊，而且尽心尽力。有一年，肃宁县建立“师资讲学所”和“高级小学堂”，刘春霖的入室弟子、校长吴友梅(清朝末科秀才)，特请刘春霖为学堂书写抱柱对联，刘春霖大笔一挥，写下“天开新学界，地 古遗风�！�10个大字。同时，吴友梅又请刘春霖为学堂编写校歌，刘春霖亦欣然应允。那校歌歌词是：
“地 古遗风，毛公设帐，董相传经。荆轲故里，武垣城。儒文侠武，燕赵遗风。莘莘学子，负笈来从，普被时雨并春风。春风暖，雨露浓，高门桃李及时荣�！�
毛公，指汉时毛苌，以传讲“诗经”闻名，曾在肃宁设帐授徒。董相，指董仲舒，曾在肃宁讲学。荆轲系刺秦壮士，相传曾在肃宁境内，该县有荆轲村。武垣城，汉时建，在肃宁城南。刘春霖在歌词里运用这些典故，说明肃宁自古以来便文风很盛，以此激励家乡人努力学习。
刘春霖不仅在家乡兴学，而且把教育扩展到京城。他在北京居住多年，结识了旅居北京的许多河北籍知名人士，辛亥以后在北京建了一所“燕冀中学”，供同乡在京子女们学习。这所中学分男、女两校，男校在外城广安门大街，女校在内城西什库后库。刘春霖为建校捐款赠书，并在“燕冀中学”董事会董事。时间不长，这所中学在京有了名气，规模日益扩大。学生来源不仅仅限于河北一省，也招收各省市的学生。当时的女校，成为北京市有名的私立学校之一。刘春霖与当年著名抗日将领宋哲元将军交谊很深。刘春霖向宋哲元建议创办一所学校，以教育、培养青年。宋哲元接受了刘春霖的建议，便很快筹建了“明轩中学”(宋哲元字明轩)。嗣后，该校成立董事会，宋哲元为名誉董事，刘春霖为董事，并捐赠图书，使学校建起了图书馆。
据闻，当年刘春霖在肃宁县北石宝村学堂立的那块刻有《劝学篇》的石碑，迄今仍存。
