北洋政府两次发表黄炎培为教育总长，他都辞谢不就。蒋介石多次拉拢他，“或封官许愿，许以特权，或提携后代，予以优待”，他也一一拒绝。“黄花心事有谁知”是他当年留下的诗句。
民国告成不久，政权即落入了袁世凯之手，有一天袁对江苏南通的状元实业家张謇说：“闻江苏有一黄某，很活跃，我想招他来，政事堂里还缺人。”张謇答：“黄某不宜做官，外边也要留个把人的。”这个“黄某”就是黄炎培。后来，袁世凯对人说：“江苏人最不好搞，就是八个字：”与官不做，遇事生风‘。“八个字矛头所向就有黄炎培在内。
袁氏垮台，1917年，黄炎培在上海发起成立“中华职业教育社”，直到1949年，长达32年间，他把主要精力放在了推行职业教育上面，成为“职教派”的教父级人物。北洋政府两次发表他为教育总长，他都辞谢不就。1927年，蒋介石的武力抵达上海，下令通缉“学阀”黄炎培，他被迫亡命，闭门读书三年。到1931年，蒋的态度才有了变化，托黄炎培的老同学邵力子邀他到南京谈话，并要他搬到南京去住，他没有答应。此后，蒋介石多次拉拢黄炎培，“或封官许愿，许以特权，或提携后代，予以优待”，都被他一一拒绝。最后的一次是在1946—1947年间，国民党当局试图拉他下水，分化中国民主同盟，当时他是民盟的几个常委之一，也被他拒绝。“谁仁谁暴终须问，那许西山托采薇”，是他自明心迹的诗句。国民党在召集“国大”前夕，又有人要他参加脱离民盟，参加“国大”。他断然表示“不能自毁人格”，经受住了种种诱惑和考验。“黄花心事有谁知，傲尽风霜两鬓丝。”是他当时写下的诗句。
黄炎培生在一个变幻不定的大时代，在坚持投身职教事业的同时，他参与过许多社会、政治、文化活动。他与《申报》有过长期的关系，先后办过《生活》、《国讯》、《展望》等周刊，他热心于抗日救国活动，“九一八”事变后，曾到南京当面质问外交部长王正廷，他是民盟、民建的发起人之一，他与其他五个国民参政员访问延安，曾和毛泽东有过一番著名的“窑洞对”，他亲身经历了政协会议、国共和谈等。蒋介石虽然曾下令通缉他，他的儿子也死于1949年的前夜，但他钟爱的职教事业终究幸存了32年。