1975年1月18日，在全国人大四届一次会议上，59岁的万里被任命为铁道部部长，此时，他已是一个有着39年党龄的共产党人，也是在“文革”中几经沉浮的老干部了，临危受命，他面对的是比战场和工地更为复杂的局面。万里没有让党中央失望，他以一位政治家的敏锐，牢牢地抓住问题的核心，他认为：不解决派性斗争，铁路复兴无望。
　　上任后的万里雷厉风行。他首先来到打派仗十分严重的徐州分局，以邓小平审阅修改、毛泽东亲自圈发的《中共中央关于加强铁路工作的决定》为“尚方宝剑”，批极左，批派性，一个月见成效。他再战郑州，三战兰州，用霹雳手段果断清剿各种派性力量，拨乱反正，迅速打通陇海、京广、兰新等铁路枢纽。半年后铁路正点率大幅上升，秩序逐步恢复正常。当时流传的民谣是:“火车正了点，钢铁增了产，卫星上了天！”
　　不久，“四人帮”一伙在铁路大搞“批邓聯万”，持续9个月的整顿工作为之中断。一些派性严重的干部和造反派头头，有的蠢蠢欲动，有的乘机翻案。万里曾颇有感触地说，1975年整顿铁路是他最辛苦的一年，也是取得成绩最显著的一年，但也是挨批挨得最厉害的一年。
　　这段经历使得万里与铁路、铁路与万里都结下了深深不解的情缘。在他离开铁路的33年里，无论担任国务院副总理还是在人大当委员长，老部长万里都多次到铁路系统视察。
　　1958年根据毛泽东指示，中国第一任铁道部部长滕代远提出了修建京九铁路的构想，但由于当时国力不足，这一计划搁浅。“文革”前，周恩来总理对铁道部领导人吕正操说：“看来在京广、京沪之间还要修一条南北新干线，要直一点标准高一点。”建京九铁路有两大关键工程，一是长江大桥，二是黄河大桥，1973年初长江大桥正式开工，然因“文革”期间国家交通事业陷入混乱，长江大桥工地上的10座桥墩一直孤零零地屹立江中。
　　“文革”结束后，全国百废待兴，各项事业重新回到了实事求是的原则上。这期间爆发了关于铁路建设的一场争论，似乎京九铁路建设又要遇到困难。1986年12月，此时国务院副总理万里在江西考察，发现九江长江大桥迟迟不能竣工。当了解到原因是缺资金时，当场拍板：国家拿出一部分资金，各省市拿出一部分资金，集资解决该问题。这一模式成为以后建设的宝贵经验。不久集资建桥方案确定，这在那个年代实属创举。
　　万里退下来多年后，依然关心着铁路的建设和发展。万里的胞妹万玲离休前曾担任北京铁路局的党委副书记，他还特别向万玲打听“和谐号”动车组的事情。