新中国成立后，石油短缺成为制约国计民生的重大问题。为了发展石油工业，国家在1955年成立了石油工业部，由李聚奎出任部长，他在任期间尽管作出了很大的努力，但新中国的石油工业并没有得到很大的改观，到1957年第一个五年计划结束时，我国的原油产量只完成了146万吨，只达到了规定的72.6%。
为了扭转石油工业的被动局面，中央决定进行一下人事调整，对周恩来说：“请你和彭德怀同志商量一下，从军队的高级将领中选一位同志，接替李聚奎同志任石油工业部长。”
彭德怀经过思考，推荐了时任总后勤部政委的余秋里，他说：“余秋里是军队高级将领中比较年轻的，而且这个人有思想、有能力、有办法。”
周恩来也觉得余秋里很合适，于是他向进行了汇报，当即表示同意，他决定把余秋里和李聚奎调换一下职务，还说自己要亲自和余秋里谈一谈。
1958年1月下旬的一天，余秋里来到了中南海菊香书屋，见到他以后，高兴地说：“噢，我们的‘亲戚’来了，请进呀！”（余秋里是江西人，江西人一向有“老俵”之称，走到哪里都被人称作亲戚）
但余秋里推辞说：“我没有搞过工业，石油这东西在地底下，这个任务恐怕承受不了，主席，是不是另选一个人？”
哈哈大笑：“才43岁，还是少先队嘛！”他又认真地说：“我们军队的高级将领，很多是在战争中学习战争，成了我军的优秀指挥员和工作干部。知识是从实践中来的。打仗、 搞经济建设都是如此。”
余秋里见决心已定，于是表态：“主席，我服从中央决定。我一定按照您的指示，在实践中去学习，努力把工作做好！”
2月5日，在主持局会议讨论余秋里的任命时，有一位局委员说：“余秋里恐怕嫩了点。”
1958年2月11日，余秋里被正式任命为石油工业部部长，他上任以后，原部长李聚奎首先用十几天带着他熟悉了一下部里的工作，3月中旬的一天，李聚奎对余秋里说：“情况你已经基本上熟悉了，我想开一次干部大会，你和大家见个面，我就可以离开了。”
于是李聚奎召开了干部大会，向大家介绍了新部长余秋里。但余秋里发现李聚奎在讲话时，下面有的人在低头看书， 有的人在交头接耳，还有的女同志竟然在织毛线，他的内心非常不快，但想到自己刚过来，现在讲这事还不合适，就强忍了下来。
此时石油部机关的人对余秋里也不看好，觉得这位大领导平时见人总是笑眯眯的，没半点儿威严。有人还对大家说：“这个新部长，老土一个。”
大家问怎么回事，这个人说：“他呀，来石油部的第一天，看到办公室自己坐的椅子是把转椅，便上前摆弄了一下，坐上去后，怎么也放不正座位，便气冲冲地叫秘书搬走，随手拉过一把木椅子，说我就坐这个好。坐上木椅子后，双腿往上一盘，然后开心地笑了：还是木椅子好。瞧瞧，大部长连转椅子都不会享受，够土吧？”
最让大家接受不了的是，这新部长竟然少了那么一只胳膊。虽然大家都知道他是“独臂英雄”，不过英雄归英雄，要让他来当向地球要油的石油部长，那恐怕太差了点劲儿。大家普遍觉得，这下石油部真要成“光花钱，不下蛋的落后部”了！
又过了十几天，余秋里亲自召开了一次机关干部大会，但下面的人还是该干嘛干嘛，于是余秋里说：“休息15分钟！”
15分钟快乐的时间过去了，当干部职工们回到会场时，发现余秋里已经换了一张充满杀气的脸，他开始了自己的长篇讲话：“可以有些同志觉得，老打仗可以，搞经济建设不行，连基本的专业知识都不懂，还能当石油部长？这种说法不对，老具有一般人所不具备的优点和特点，他们对党忠诚，有严格的组织性、纪律性，有以身作则的优良作风，他们的这些优点，在经济建设时照样可以发挥重要作用。”
余秋里又说：“我想对知识分子、技术人员说几句话，你们有知识、有文化，这是很宝贵的财富，但你们要知道，是党和人民培养你们上的大学，如果以为自己有了知识，就可以目空一切，那迟早要栽大跟头！”
余秋里说完以后，用眼扫了一下台下，台下顿时一片寂静，再也没人敢做事情。此时余秋里又拿出一个大信封说：“这是我们教育司发给外交部的公函，竟然把“外交部”的“交”写成了“郊区”的“郊”，这不是天大的笑话吗？教育司长来了吗？”
副司长站了起来，他是一位1929年参加的老红军，资历和余秋里差不多，余秋里严厉地批评了他：“问题的根子还是在你们领导身上，说明你们对干部管理教育不严，以后机关干部出问题，首先拿各级领导干部是问！”
余秋里的这番讲话极大地震撼了在场的所有干部，从此以后，石油系统里的人都知道了余秋里“不打肥皂就刮胡子”的厉害。此后凡是余秋里主持大会，干部职工们都有些惶恐，副手更是丝毫不敢走神，说不定下一秒，余秋里就突然点了自己的名儿。
余秋里在上任后，多次拜访了地质部长李四光等专家，虚心向他们求教，经过刻苦的学习，他很快掌握了一些石油地质知识。当时对于发展我国的石油工业应该走什么道路，石油系统里的干部有两种不同的意见：
一种意见认为，应该以发展人造油为主。他们认为我国煤炭储量丰富，有大量油母页岩，发展人造油风险小，把握大。
另一种意见认为，人造油的成本高，难以大量发展。我国地域辽阔，沉积岩分布广泛，只要加强勘探，是会找到丰富的天然油的。因此，应当以发展天然油为主。
1958年2月27、28日，分管石油工业的副总理用两个下午听取了石油工业部的工作汇报，他在会上指出：“石油工业怎样发展，我看是两条腿走路。人造油是要搞的，并且下决心搞，但中国这样大的国家，从长远看，当然要靠天然油。要在经济比较发达、kaiyun平台官方交通条件好的地区加快石油勘探工作。把真正有希望的地方，如东北、苏北和四川这三块搞出来，就很好。”
余秋里认真地听着的讲话，并在笔记本上做着记录。他感到的讲话非常清晰，对于今后的工作怎么干，他终于有了底。
1958年5月5日至23日，党的八大二次会议在北京召开，代表党中央向大会作了《工作报告》，提出了“鼓足干劲，力争上游，多快好省地建设社会主义”的总路线日起，会议进入大会发言阶段。
此时有人向余秋里提出，石油部要不要在大会发言。余秋里说：“当然要发言，人总得要有志气，要有蓬勃身上的精神。现在形势逼人，各地区、各部门都争着要发言，表示坚决拥护、贯彻总路线，把工作做得更好。我们怎能做缩头乌龟？”
余秋里说：“这个发言，第一要短，长了没人听；第二，不能泛泛而谈，要有气势，对内要鼓舞士气，对外要激动人气。”
余秋里高兴地说：“这个办法好！要挑战、打擂，就要选一个名声大的部当对手，不然就没有味道。哪个部名声大呀？”
有人担心地问了一句：“我们能做到吗？去年，钢产量为535万吨，而油产量只有146万吨，相差太远了！”
最终石油部副部长李人俊代表石油部在大会上对冶金部发起了“挑战”。几十年后，当他回忆起这件事时，感慨地说：“当年在石油部最困难的时候，却敢于向冶金部挑战，喊出一吨钢、一吨油的口号，只有余秋里有这样的胆略和魄力！”
起初石油部把勘探的重点放在了川中地区，但余秋里在带领团队进行了深入的调研后，发现川中地区的油层薄，产量低、下降快，而且没有发现大油田，并不适合在这里进行石油会战。
1959年4月2日至5日，八届七中全会在上海召开，余秋里参加了会议，他在会议期间把川中地区的情况向进行了汇报，听后说：“那里没有找到，就到别处找。‘东方不亮西方亮’，中国这么大的地方，总会找到油的。”
余秋里说：“我们遵循小平同志的指示，将石油勘探的战略重点从西部地区转移到了东部地区，我们将加强东北、华北、苏北等地区的勘探。”
从上海回到北京后，余秋里再次来到李四光家里拜访，李四光问他：“余部长，四川油层的古怪脾气，让你伤脑筋了吧？”
余秋里叹了口气说：“是呀，李部长，西部的油气区划到底怎么样？您是大科学家，大权威，给我交个底，如果西部不行，拓展东北到底有没有希望？”
“这个嘛，我最近也在考虑。”然后李四光起身从书柜里拿出一张图纸，展开后对余秋里说：“西方人断言中国是贫油国，我从来就不信，不但油不贫，而且有大的油区，你看这是长春物理勘探研究所前几天送来的最新地震细测研究成果，图上清晰地勾画出杏树岗、萨尔图、甸子，三个面积各为100至300平方公里的地质构造，可以推测到，三个高点下面都有油层，而且可能有大油区。你今天不来，我过几天还要找你哩！”
此后余秋里把石油勘探的战略重点转移到了位于东部地区的松辽盆地。经过艰苦勘探，1959年9月26日，松辽盆地中央地带大同镇的松基三井终于喷出了工业性油流，余秋里非常高兴，当时正值建国10周年大庆，于是他提议将新发现的油田命名为“大庆油田”。
1960年1月，余秋里再次来到上海参加中央局扩大会议，在会上问他：“秋里同志，你那里有没有好消息啊？”
“是的！，我刚从黑龙江回来，有几口井正在高量喷油，这种情况显示大油田已经找到，现在正加紧勘探，顶多有个半年就可见分晓了！”
1960年2月13日，石油工业部正式向中央、国务院提出了《关于东北松辽地区石油勘探情况和今后工作部署问题的报告》。报告中说：
积极地、快速地进行松辽地区石油的勘探和开发工作，对于迅速改变我国石油工业的落后状况，有着重大的作用。
中央批准以后，余秋里决定实施“大庆石油大会战”，但如此大规模的会战，仅凭石油系统的人马是远远不够的，余秋里于是找到了总参谋长罗瑞卿，要求他分配给石油系统3万名转业官兵。
罗瑞卿爽快地答应了余秋里，并对他开玩笑说：“余秋里啊，你一下子就要改编我们3万部队，你真会找窍门啊！”
余秋里也笑着回答：“总长，活人不会被尿憋死，大会战太需要人呀，我只有找娘家啊！朱总司令说过，没有石油，天上飞的，地下跑的，都转不动呀，大炮、坦克还抵不上打狗棍哩！”
4月29日，余秋里正式召开“石油大会战万人誓师大会”，他在会上说：“一个国家要有民气，一个集体要有士气，一个人要有志气，这三股气结合起来，就能形成一股强大的力量！”
会战开始后，余秋里与工人们同吃同干。有一天半夜，余秋里回到住处，连衣服都没脱就钻进被子。谁知他刚睡着，雨布突然倾斜下来，将水泻在余秋里身上，把他浇得浑身湿透。尽管条件艰苦，但余秋里始终乐呵呵地说：“这比长征路上不知道好多少倍！”
石油部副部长孙敬文提意见说：“这口号有点夸大主观因素。”余秋里听了进去，于是把口号改成“有条件要上，没有条件创造条件也要上”。后来这句口号也成了铁人王进喜的口头禅，并随着影视作品遍传全国，老少皆知。
王进喜也是余秋里树立的一个先进典型。余秋里在上任之初，得知王进喜带领1205钻井队创出了月进尺 5009.3 米的全国钻井最高纪录后，立即亲自接见了他，并亲切地握着他的手说：“你这个名字好。进喜，进喜，叫咱们石油部也进点喜嘛！”
大庆石油会战时，有一天王进喜正在带领大家打井，钻至井深700米时，突然发生了井喷，液柱越喷越猛，不一会儿就达到了20多米高。
井喷，就是埋藏在地层深处的水、原油和天然气在地层的高压下突然喷发，如果不能及时处理，那么井架就会被吞没到地层里去，造成井毁人亡。
此时王进喜告诉自己一定不能慌，必须马上带领大家止住井喷。压井喷需要用重晶石粉调泥浆，但井场上没有，他当机立断决定用水泥代替。可是，当大家把一袋袋水泥倒进泥浆池时，由于没有搅拌机，水泥都沉在池底，起不到作用。
在这千钧一发之际，王进喜突然跳进了泥浆池中，用身体搅拌起泥浆来！很多工友受到了他的感染，也纷纷跳了进去，大家奋力划动双臂，用身体搅拌着泥浆，就这么经过3个小时的搏斗，王进喜终于带领大家了井喷。
但王进喜却因为一直泡在泥浆里，全身都被碱性很强的泥浆烧起了泡，大家把他拉上来以后，他一下子就昏倒在了地上，大家要送他回去休息，他清醒后却说：“别管我！赶快大排量循环，别让水泥凝固了！快点处理泥浆！”
王进喜在缺少运输工具，没有起重设备的困难条件下，带领工人创造条件上，硬是肩扛人抬把60多吨重的钻机搞上去，立了起来，胜利钻完一口井。我们就是要学习他这种艰苦奋斗的大无畏精神，学习他绝不被困难压倒、而一定要压倒一切困难的英雄气概！
在余秋里的带领下，1963年，大庆石油会战取得了决定性胜利，全国原油产量跃上648万吨，其中470万吨产自大庆油田，油田除收回国家全部投资外，还为国家积累了3.5亿元！
1963年12月月，周恩来在《政府工作报告》中，豪迈地向全国、全世界宣告：“我国经济建设、国防建设和人民生活所需要的石油，完全可以自给了！中国人民使用‘洋油’的时代，将一去不复返了！”
1964年，又发出了“工业学大庆”的号召。在这以后，全国掀起了一个宣传、学习大庆的热潮。
1964年12月，又提议调余秋里到国家计划委员会去工作，但在征求意见时，有位老同志说：“余秋里是一员猛将、闯将。”言下之意是余秋里并不适合做计委的工作。
1964年12月，中央正式任命余秋里为国家计委第一副主任兼秘书长、党组。于是余秋里离开了工作6年的石油工业部，开始了新的征程。
