Vähäsarjan koulupiiri erotettiin Sarjankylän koulupiiristä vuonna 1935. Koulu toimi aluksi sekä sodan aikana supistettuna yksiopettajaisena kouluna. Koulutilat oli vuokrattu ensin Hietasaarelta, sitten Ylikoskelta ja Leppärannasta, jonne alakoulu sijoitettiin. Yläkoulun tilat olivat ahtaat ja koulukäyttöön sopimattomat muun muassa veistotila oli eteisessä, voimistelutilaa eikä koulukeittolaa ei ollut lainkaan.

Tarkoitus oli rakentaa oma koulutalo, jolle etsittiin jo tonttiakin, mutta sota keskeytti suunnitelmat. Ensimmäisenä toimintavuonna oppilaita otettiin 45, yli kaksikymmentä jäi kouluun tulematta joko pitkän matkan tai muissa kouluissa käymisen takia. Kun alakoulu 1939 perustettiin, oppilasmäärä oli 65.

Ensimmäinen opettaja Arvo Olaste opetti 1935–1938, hänen jälkeensä Kauko Leskinen 1938–1945, mistä ajasta hän oli suurimman osan sotapalveluksessa. 1939 opettajaksi tuli Katri Niemistö (myöhemmin Kaarlela), joka oli vuosia koulun ainoa opettaja. Kaksi vuotta Leskisen sijaisena toimi Onni Kukkonen. Tyttöjen käsitöitä opetti Anni Laukka. Sodan jälkeen ei koulun rakentamisasia johtokunnan yrityksistä huolimatta edistynyt. Kouluhuoneet olivat vuokralla August Hyypältä, opettajan asunto Kyyhkylästä. Alakoulu muutti Nuorilan tupaan 1950. Kunnollista koulukeittolaa ei ollut, vain hella eteisessä ja keittäjä näki parhaimmaksi keittää kotonaan.

Opettaja Niemistö toimi virassaan vuoteen 1951 siirtyen sitten Järvikylän koululle. Koulun toisena opettajana ovat toimineet: Pentti Merviö 1945–1946, Eeva Vähäsarja 1946–1948, Saimi Vähäsarja 1948–1949, Martti Perkkiö 1949–1950 ja Eeva Niemistö 1950–1951. Veistoa ohjasi Matti Rajaniemi.

Vaikka ulkonaisilta olosuhteiltaan koulu oli alkeellisella tasolla, järjestettiin koululla kuusijuhlia, kevätjuhlia ja äitienpäiviä. Kymmenen vuotta toimi kristillinen opintokerho, johon kylän nuoriso ja vanhempikin väki kuului. Kerhon toiminta oli vilkasta: järjestettiin juhlia, tentittiin oppikirjoja ja keskusteltiin. Toimipa kerhon piirissä kuorokin.

Keväällä 1950 päätti kunnanvaltuusto lakkauttaa Vähäsarjan koulun. Johtokunnan ehdotus Yliojan ja Vähäsarjan piirien yhdistämisestä ja uuden koulun rakentamisesta sopivan etäisyyden päähän molemmista kyläkunnista ei saanut kunnan kannatusta.