“三一八”惨案的发生，死了那么多青年学生和无辜市民，不管背景有多么复杂，开枪杀人，段祺瑞身为执政，永远都难辞 其咎。不到一个月，他就在政变中黯然下台。这位“北洋之虎”从此离开权力舞台，闲居天津，以下围棋、读佛经打发光阴，很少出门。有人说，他这是闭门思过。 “三一八”确实成了他一生抹不去的一个污点，“九一八”之后，在日本人的利诱威胁面前，他却经受住了考验，保住了晚节。

1931年11月，日本特务头子土肥原与他多次接触，要提供500万活动经费支持他出关，去东北建立傀儡政权“满洲 国”，因为他拒绝了，日本人才盯上溥仪。他以行动证明自己是个有骨气、有操守的中国人。所以，当他1933年1月20日飘然南下时，《大公报》专门发表一 篇社评《送段芝泉先生南行》，对他评价很好，称他此行是举国团结的新象征。这一年他已69岁。

对段祺瑞这样一个重要的在野领袖留在北方，蒋介石始终不放心，担心他被日本人挟持，因此派交通银行董事长钱永铭带亲 笔信前往天津，劝说他“南下颐养”。他表示如果自己南下对国事有益，随时可以动身。当他到达南京时，蒋命少将以上军人戎装严整渡江到浦口车站，自己则在下 关码头迎接，执弟子礼甚恭。

1934年春天，段祺瑞在上海患了很严重的胃出血。这年夏天，江南大热，蒋介石安排他上庐山避暑。每天早晨，他先作禅课，然后用茶点，午前睡一会，再吃午饭，然后下棋、看书作为消遣。到庐山采访的《大公报》记者王芸生，得知他在山上，岂能放过这样难得的机会。

王芸生第一次见到70岁的段氏，穿着蓝绸长衫，面容瘦削，精神却是很好，耳朵虽有点重听，应答毫无迟钝。略为寒暄之 后，王即转入正题，问他对国事的感想。他回答说：治国之道很简单，“维持人民，提倡商业”八个字而已。看现在的政令，那一件不是剥削人民的？商业情形，入 超年年增加，而平津一带的商店多少家关门，不关门的也多赔累不堪。这样下去，国那能好？他说自己给蒋介石回信时写了一首诗，他还背得出来：

“忧乐与好恶，原尽与民同。三章法定汉，民足国不穷。兴邦用顺守，世民竟全功。提倡兴百业，四海扬仁风。”

大致意思也就是他上面说的八个字。为政不在多言，顾力行如何耳。他觉得现在的政府是议论多而效果少。他接着说：“现 在中国无第一等人才，二等人才也很少，蒋先生是站在二等边上的。就治军论，蒋先生当然是个人才。”说起蒋历时数年，将兵数十万，没能将江西的红军肃清，他 感叹“中国事之难为可知”。王写《赣行杂记》时，这一节就以《合肥座上论人才》为题。就在他毫无顾忌地议论蒋介石只是“二等边上”的人才时，蒋派人送来了 一篮故乡浙江奉化的桃子，他很开心，要大家尝尝。吃了水多味美的奉化桃，他继续说：“中国事，坏在一般人的我见太深”，汪精卫去上海看他时，他当面就说： “现在不是讲吾的时候了！”他笑着对王说：“现在不讲‘吾’的，除了‘吾’还有谁？”又说：“治国如防水，大堤一决，就难再防堵了。”这些心得，无疑是他 一生经验的总结。即便如今看来，也值得人们仔细斟酌。

年轻的王芸生因为在国难当头之际编《六十年来中国与日本》，而名声鹊起。段祺瑞说“已看过，很好。”此时离“七七事 变”引发全面抗战还有三年，问及“中日关系将推演至何种地步？”他回答：“这话很难说。中国本无亡国之理，而目前的情形，却向亡国之途以趋。中国吃亏在 ‘大’字上，日本却得力于‘小’与‘穷’。中国惟其大，故一切不在乎；日本惟其小与穷，故拼命苦干。日人的妄念太重，当然有碰钉子的那一天。不过中国人若 长此泄沓，前途实难乐观。”此次谈话虽只有三十分钟，内容却不少。王告辞出来，回望段氏的住处，转眼已在云雾笼罩之中。1936年11月2日，段祺瑞在上 海病故。