在1927年大革命失敗后，許崇清認為他的教育思想只有在未來的理想社會才能夠?qū)崿F(xiàn)了，現(xiàn)在是無所作為的。于是他便轉(zhuǎn)向致力于教育理論的研究，想在辯證唯物論的基礎(chǔ)上建立教育學(xué)的一個新體系。這個時期許崇清側(cè)重馬克思主義教育哲學(xué)的研究，除了繼續(xù)對當時的教育方針政策提出改革的意見之外，著重宣傳馬克思主義教育哲學(xué)的觀點，并與當時歪曲馬克思主義的某些教育與哲學(xué)思想展開論戰(zhàn)和批判謬誤。

　　此外，他對當時我國的文化、科學(xué)、教育建設(shè)也提出了具體主張。例如，他在《教育方針討論》（1928年）一文中指出，中國從來的教育只是統(tǒng)治階級的教育，辛亥革命以后實施新的教育制度，才附加科學(xué)技術(shù)教育。由于中國受帝國主義侵略，經(jīng)濟落后，科學(xué)技術(shù)落后，所以上述新教育措施，至今未能徹底推行，于是主張教育要配合孫中山提倡的節(jié)制資本、平均地權(quán)、發(fā)展實業(yè)的政治路線，發(fā)展科學(xué)技術(shù)教育，實行學(xué)校社會化，并主張不要強行灌注統(tǒng)治者的政治意識于人民，這對反對蔣介石的獨裁統(tǒng)治是有進步意義的。

　　1930年，許崇清發(fā)表了《農(nóng)村學(xué)校改造的五個要則》，希望通過農(nóng)村學(xué)校的改造，促進農(nóng)村經(jīng)濟的發(fā)展和農(nóng)村生活的道德化。

　　1931年，許崇清出任中山大學(xué)校長。上任后在中山大學(xué)文學(xué)院增設(shè)社會學(xué)系，并將理學(xué)院改為理工學(xué)院，增設(shè)土木工程和化學(xué)工程兩系，還開始興建新的農(nóng)學(xué)院校舍?！熬拧ひ话恕笔伦兒?，抗日運動興起。12月，以中大學(xué)生為核心的廣州學(xué)生舉行了聲勢浩大的抗日愛國游行和請愿，全市實行罷讀。而許崇清對學(xué)生的抗日行動持同情態(tài)度，為當時的西南政務(wù)委員會所不容。12月中旬，他被以“控制不力”為由，免去校長職務(wù)。中山大學(xué)的教職員和學(xué)生對此極為不滿，校董會也表示要許留任。反動派迫于無奈，不得不下令在新校長未到任時，著許崇清暫行代理中大校長，維持校務(wù)。1932年2月，許正式離任，只掛廣東省政府委員的虛職。

　　1934年歷史轉(zhuǎn)入第二次革命戰(zhàn)爭時期，國民黨反動派對中國共產(chǎn)黨領(lǐng)導(dǎo)的人民革命力量，不僅進行軍事“圍剿”，而且進行文化“圍剿”。當時以馬列主義為指導(dǎo)的革命思想和文化教育在與反動派的激烈斗爭中蓬勃發(fā)展，對廣大青年的影響日益擴大。國民黨反動派“黔驢技窮”，不能不走袁世凱的老路，乞靈于尊孔讀經(jīng)。反動派的頭面人物陳立夫、張群、何鍵等都竭力主張青年“讀經(jīng)”，才能糾正“思想”，挽救國運。當時，廣東的最高統(tǒng)治者陳濟棠計劃在大、中、小學(xué)推行讀經(jīng)，向?qū)W生灌輸封建思想?！缎⒔?jīng)新沽》教本經(jīng)西南政務(wù)委員會決定出版并交廣東政府辦理，許崇清受命審查及擬具推行辦法。許崇清在最后寫成的《孝經(jīng)新法教本審查意見書》，明確提出反對讀經(jīng)。在起草這份意見書時，他考慮此事關(guān)系教育前途，在當時環(huán)境下又不便單刀直入反對復(fù)古讀經(jīng)，于是用文言文來寫，使意思較為含蓄。這份意見書由廣東省政府轉(zhuǎn)報西南政務(wù)委員會審核，使陳濟棠極為難堪。1934年7月15日，意見書由香港《三民主義月刊》第四卷第一期全文公開發(fā)表。當刊物傳到廣州時，文化教育界人士爭相閱讀，奔走相告，許多學(xué)生也議論紛紛，表示不愿再上孝經(jīng)課。陳濟棠聞訊大怒，立即免去許崇清的省政府委員職務(wù)，許便離開廣東到浙江去了。

　　這期間，許崇清在杭州閑居，繼續(xù)從事學(xué)術(shù)研究。

　　1936年，許崇清回廣東任教育廳長。在任期間，他除整頓全省中小學(xué)校之外，大力開展農(nóng)村教育。省教育廳規(guī)定，各中小學(xué)校要進行農(nóng)村社會教育，對農(nóng)民介紹科學(xué)知識，提高群眾文化水平。教育廳與中山大學(xué)、江蘇教育學(xué)院聯(lián)合開辦“花縣鄉(xiāng)村教育服務(wù)實驗區(qū)”，并先后開辦南海平洲、大瀝等社會教育實驗區(qū)。這種做法當時在全國也是少有的。

　　1937年抗日戰(zhàn)爭爆發(fā)，1938年10月廣州淪陷，許崇清撤退到粵北。1939年，中山大學(xué)遷到云南澄江。1940年4月，許崇清被任命為中山大學(xué)代理校長。是年7月，在許崇清主持下，將中大遷回廣東北部的樂昌坪石鎮(zhèn)。這時，該校經(jīng)兩度長途搬遷，損失嚴重，物資缺乏，生活艱苦，但學(xué)術(shù)思想?yún)s很活躍。許崇清還聘請了洪琛、李達、王亞南等一批進步學(xué)者到校任教，他本人親自在研究院講授辯證唯物論與歷史唯物論。他們宣傳抗日，抨擊時弊，呼吁民主，深得廣大師生擁護，卻引來了當時國民黨中央執(zhí)行委員朱家驊及其一派的不滿。他們向國民黨中央執(zhí)委、考試院院長戴季陶密告許崇清“引用異黨，危害中大”。教育部長陳立夫便于1941年7月免去許代校長職務(wù)。同時任命張云接替校長職務(wù)。消息傳來，全校震動。中大師生曾展開了“擁鄒挽許拒張”運動。（“鄒”，指當時在重慶養(yǎng)病的鄒魯校長，許是代校長，“擁鄒挽許”的實質(zhì)是“挽許”。）

　　許崇清離開中山大學(xué)后，出任廣東省政府委員兼第七戰(zhàn)區(qū)編纂委員會主任委員。他利用這個合法地位，掩護并依靠該機構(gòu)中的大批中共地下黨員和進步人士，出版《新建設(shè)》、《教育新時代》等雜志，宣傳抗日、民主等進步思想，介紹馬列主義，被進步人士稱為“濃黑中幾盞燈火”。

　　在學(xué)術(shù)思想上，這一時期許崇清發(fā)表的文章較多，概括起來可分為兩方面的內(nèi)容：第一，關(guān)于文化與科學(xué)的建設(shè)方向；第二，批判主義教育哲學(xué)。例如《“學(xué)術(shù)中國化”與唯物辯證法》（1939年）、《民族自由與文化建設(shè)》（1940年）、《中國當前的科學(xué)思想》（1941年）、《杜威社會改造思想批判》（1942年）。